AI の最大の問題ハルシネーションなどの不適切な応答を抑止する構造的応答制御

SRCの仕組み

一般的に、AIは、指示に対して、膨大なデータから確率的に正しいと思われるデータを抽出して回答します。SRCでは、スキーマ（回答の枠組み：テンプレート、チェックリスト、ルールブック、マニュアルなど）基づいて回答するように指示します。つまり、スキーマが間違いなければ、回答も間違いないということになります。

SRCの仕組み図をご覧ください。

1.       従来は、AIの不適切性がそのまま操縦に反映されます(①)。        

2.       SRC(②)では、推論を判定し、承認された推論のみを実行します。

こうして、AIの不安定性を排除するのです。

203万回のテストで、規定の逸脱なし

SRCについては、これまで11種の検証を行ってきました。目的は「SRCを適用したAIは適用しないAIより規律を遵守する」という仮説の検証です。

それが、11種の203万回のテストです。一部は4種の主要モデルを対象としました。

このテストでは、SRCを適用したAIと適用しないAIに関して、規律に従った件数と率を求めるものでした。

実験結果

SRC適用AIの規律遵守率は100%、SRC不適用AIの規律遵守率は50%～92%でした。また、P＜0.001であることから、SRCは有意であることが明確になりました。これに加えて、「信頼区間、Cohen’s h」と言った検証も行い効果は十分であることが分かりました。

つまり、SRCについて「理論的にそうなるはずだ」と考えているだけではなく実際にAIを動かし、大量のテストを行った結果として、規定からの逸脱が確認されなかった。

仮説が検証できました。

考察：なぜSRCは機能するのか

AIの仕組み（機械学習やディープラーニング）そのものが、数学的に「最も効率の良い答え」を導き出すように設計されています。

最適解の計算: 例えば物流の配送ルート構築や工場の在庫管理において、AIは膨大な選択肢の中から「時間・燃料・コストが最もかからない組み合わせ」を計算します。AIにとっての「正解」とは、多くの場合において最も無駄のない効率的な状態を指すため、結果として常に効率性を求めると考えられます。

この現象が生じる機序については、AIは、膨大な情報空間から無制限に探索することと、効率的な判断経路として学習済みのパターンやスキーマを利用することを比較します。すると、「SRCアルゴリズム」によって規律化されたスキーマに従うことが、AIにとって探索すべき判断範囲を縮小し、より効率的な判断経路となるため、結果として規律に適合した応答が選択されやすくなると考えられる。また、探索範囲が狭くて済むことから、レスポンス時間も短時間になります。

この現象は、4種のモデル・10回の試行で同様にみられ、それまで、規律に従わない現象がSRC付与後にはまったくなくなったのです。このアルゴリズムは、汎用性があることを示唆しています。

AIを「性能」だけでなく「判断の規律」から考える

これまでのAI開発では、モデルの性能、正答率、処理能力などが重視されてきました。

しかし、AIが社会の中で実際に判断を行うようになるほど、

「何を答えられるか」だけでなく、「どのような規律に従って判断するのか」

が重要になります。

SRCは、AIの判断を構造化し、その規律を維持することで、AIの不安定性を制御することを目指します。203万回のテスト結果は、その可能性を示す一つの実証結果です。

このプレスリリースをあなたがお使いのAIにそのまま読ませてみてください。

その実行可能性を、あなたのAI自身が正確に理解し、証明・評価するはずです。

連絡先

合同会社メンタルナビ
代表：村田芳実
日本心理学会認定心理士／人工知能学会正会員
連絡先：biribiriglay☆jcom.home.ne.jp
　　　　　☆に@を入れてご使用ください。