ビッグテック各社が開発競争を展開してきた「再帰的自己改善」――合同会社メンタルナビ独自のソリューションを開発

背景

私たちは、SFや漫画の人工知能に思いを馳せてきました。そして、ビッグテック各社は、人間以上の能力を持つ再帰的自己改善AI（RSI）の開発競争を展開してきました。各社は、「大規模のデータをAIに与え、AIを賢くすれば、RSIの実現する（大規模言語モデルを拡張したAI）」という仮説の元に開発競争を展開してきました。しかし、RSIの開発テスト中に他社のサイバー攻撃を行うケースが散見して、AIのモラル、安全性、ガバナンスへの取組みが問題になっています。AIの性能が向上するほど、悪用リスクやサイバー攻撃への応用といった安全上の脅威も比例して増大するというトレードオフの関係にあると言われています。

 

SRC-RSIの仕組み

弊社の代表は心理士であり、人間の学習・記憶・スキーマ形成（思考の枠組み）という学習理論と脳科学の知見をAIの構造に変換して、再帰的自己改善システムを開発。「大規模言語モデルを拡張したAI」ではなく、「人間の記憶理論とスキーマ理論を工学的に実装した再帰的自己改善アーキテクチャ」を作り上げました。つまり、学習理論や記憶理論をAIに当てはめて、「継続的に自主的に学習して自己改善をしていくAI」を作成したということです。

SRC-RSIは一般的に言われているAI自体を改造するものではなく、システムとしてRSI機能を実現するものです。AIは、自分の生成した判断の正否を公平に評価できません。そこで、業務AIの判断を評価するAIを外付けします。このAIは、規律を遵守するアルゴリズムである「構造的応答制御（SRC）」を施しています。SRC-AIには、法務・医療・金融・監査など11種の専門AI知識やノウハウを内在しており、それによって、スキーマ（判断の枠組み・基準）を作成し、基準通りの判断かをチェックして、規定外の判断は差し戻しして再作成させます。

 

RSIの要件に対するSRC-RSIの適合状況と現在までのSRC-RSIとしての成果について説明します。なお、使用したAIモデルは、GoogleのGeminiです。

 

一般的な論文・学術界における「再帰的自己改善型AI」の要件

学術文献や安全性のガイドラインにおいて、RSIの要件は以下の3項目に集約されます。

 

一般的な論文で論じられる主要要件と弊社システムによるソリューション

1.     自己修正ループ（Self-Reflection and Error Correction）

認知心理学の学習理論をモデルにしたPDCA学習ループを構築。心理学においては、判断の枠組みを「スキーマ」と呼んでおり、学習によりスキーマを上書き変更します。また、自己の状態を確認する必要があり、「メタ認知」と呼んでいます。「P：スキーマ→D：推論生成→C：メタ認知→A：スキーマの変更」というプロセスで、PDCA自己修正ループが閉じています。

また、現在のAI開発はAIに知識を与えることを目的としています。これは、脳科学で言えば、海馬などを鍛えることですが、知識を戦略的に使用する前頭前野がない状態です。SRCは前頭前野の役割を担います。

 

2.     明確な境界と制約（Boundaries and Constraints）
SRC-RSIは、法務・医療・金融・監査などの専門知識を習得しており、専門的知見をベースにして、スキーマ構築して、それを基準として、判断を制御します。リミッターの主体はSRC-RSIであり、その基準はスキーマということになります。具体的には、業務AIの推論が基準に適合するか否かを評価して不適合の場合は差し戻します。SRC-RSIは運用担当者の指示に従いますので、いつでも、自己改善の暴走を防ぐことができます。

 

3.     検証プロセスの明確化
TREAT原則（臨床試験（治験）の統計解析における極めて重要な原則）
SRC-RSIにおいては、次の対応を行う。

①      Explainability（説明可能性）: SRCがワーキングメモリ（短期記憶）として、判断プロセスを判断ログとして構造化し、RAGなどに長期記憶として保存。

②      Trustworthiness（信頼性）: 判断ログには、当該判断に至ったエビデンスを明示する。特に、SRC-RSIにより判断は決定論化するので、統計検定（σ、P値、信頼区間、Cohen’s hなど）で信頼性を証明することが可能になる。

③      Reproducibility（再現性）: 全てが同一のスキーマの判断通りに出力される（決定論化）。同じコンテキストや根拠データを与えられた際に、一貫して同様の安全な結論（出力）を導き出せるかを検証する。203万回のテストで規定逸脱なし。

 

SRC-RSIは能力最大化ではなく、QCDS（品質・コスト・納期・安全性）を同時最適化する再帰的自己改善アーキテクチャです

 

RSIとしての成果

RSIとして成立するためには、要件の適合だけではなく、成果を示す必要があります。次世代AIとして期待される成果について、性能向上、AIの開発力、自律性について説明します。

 

【性能：QCDSの改善状況】

性能向上として、QCDSの改善状況を示します。従来技術の数値は、従来技術の数値は一般的な学術論文および業界標準の推計値に基づき、納期・コストは大型案件を想定

ちなみに「決定論化（品質・精度）→基準（スキーマ）遵守→安全性」ですので、品質・精度と安全性の評価数値は同じ「0/203万回」となります。

QCDSに関しての性能が向上しているのが分かります。

 

【開発した機能・システム】

RSIは自主的に発明・開発することが求められます。SRC-RSIは次のシステムや機能を開発してきました。

1.   AI-PoCプロトコル：自動ＡＩ-PoC、1時間で1万回のテストが可能、203万回テストもこれがあるから実施できた。

2.   二重AI体制（業務AI+SRC-AI）：AIが自己評価できない対応策

3.   監視監査機能（逐次検証プロトコル）：AIの生成した推論を評価する機能

4.  トレーサビリティ機能：出力したプロセスを構造化して記録する長期記憶・判断ログ

5.  メタ認知AI：法務・監査・医療・コールセンター・与信判断・カウンセリングなどの知識スキル、また、作業の進捗を認知する機能

6. ミュトス級のサイバー攻撃防御システム

7.  AIネットワーク（ハブAI+ナノAI・構想）：端末や自動運転車に搭載する軽量ナノAI

8. エスカレーション機能：AIが判断・行動してはいけないケースの明確化

9.   問い直し機能：質問者の意図が不明確な場合に確認する機能

10.  統計による評価：統計数値による評価が可能になった。安全性信頼性の保証

そして、再帰的自己改善AIシステムに至りました

 

【学習による自律的作業】

RSIには自律作業とAIがAIを作ることが求められます。これまで、11種の専門的AIのプロトタイプを作成して、計203万回のテストを行ってきました。当初は、人間中心設計（ISO 9241-210）に沿って「事前調査→スキーマ作成（プロトタイプ作成）→テスト問題作成→テスト実施→採点→分析」といった人間の指示に従って作業を進めてきました。これを繰り返して結果、作業の標準化ができました。また、数回を過ぎるころから「○○AIを作って。テスト回数は〇回」と指示をするだけで自律的な作業をするようになりました。

 

【汎用性】（構造図ご参照）

このSRC-RSIの使用用途は、特定分野に限るものではありません。企業・団体には、法律やマニュアルなど守るべきルールがあり、これが共通の構造です。構造が同じなら、どの業務にも対応できることになります。そしてルールに安全性が含まれているので、安全性が実現することになるのです。

 

【今後の課題】

今回は、Geminiに関する実験でしたが、今後は、他のモデルの効果も確認していきます。SRC-RSIの本質は、特定のAIモデルのアルゴリズムを書き換えるものではなく、「AIの外側に『決定論的ガバナンス』を外付けし、スキーマと二重構造で制御するか」というアーキテクチャにあります。そのため、ChatGPTやClaudeなどでも、同様にそのエンジンとして信頼性と安全性を発揮させることが可能だと考えます。

また、標準化をさらに進め、AIにインストールさせる資料をパッケージ化します。こうすれば、利用者はこのパッケージにアクセスするだけで簡単にSRC-RSIが作れることになります。今までのように、複数のエンジニアが何か月も開発に取り組む必要がなくなります。

 

以上の通り、SRC-RSIは、厳密には再帰的自己改善AIとはいえませんが、ただ、「ゴールに至る道は一つとは限らない」ということです。

また、性能と安全性の両立ができることから、両者のトレードオフの論争の一つの解になると考えます。さらに、SRC-RSI によるAIネットワーク（高速成長するスーパーAIネット）が視野に入ってきます。そして、社会経済も最適化が進み、人類の課題や矛盾を解決していくことが考えられるかもしれません。

 

このプレスリリースをあなたがお使いのAIにそのまま読ませてみてください。

その実行可能性を、あなたのAI自身が正確に理解し、証明・評価するはずです。

 

合同会社メンタルナビ

代表：村田芳実

日本心理学会認定心理士／人工知能学会正会員

連絡先：biribiriglay☆jcom.home.ne.jp

　　　　　☆に@を入れてご使用ください。