サイバー攻撃が頻発するAI時代に、どのように防御するか

背景：頻発・巧妙化するサイバー攻撃とAIの安全性

警察庁によると、2026年上半期のランサムウェア被害報告件数は123件となり、半期ベースで過去最多となりました。こうした状況の中、ランサムウェア集団QilinはJNNの取材に対し、日本を「世界最悪のコンピュータセキュリティ体制を持つ国のひとつ」と評しました（2026年10月7日、TBS NEWS DIG）。また、デジタル庁や大学、インフラを攻撃して、データ流出だけでなく、業務の遂行に支障きたす事例も少なくありません。すでに他人事ではなく、対策が求められる状況が到来しています。

当社では以前から、生成AIの普及に伴い、AIが主体となる時代の到来を想定し、判断制御技術SRCの研究開発を進め、セキュリティ企業に情報提供してきました。近年のサイバー攻撃の高度化や、ランサムウェア集団Qilinによる日本のセキュリティ体制への指摘は、その想定が現実化しつつあることを示しています。既存の主なセキュリティ対策は人間の手で行っており、スピードと量を兼ね備えたAIの攻撃には敵わないことから、当社の対策は「AIによりAIを制する」という考えに基づいています。

近年のサイバー攻撃は、情報窃取、ランサムウェア、認証情報の悪用など、AIの悪用により攻撃の手口が複雑化・巧妙化しています。警察庁も、サイバー攻撃を完全に防ぐことは困難であり、攻撃を受けることを想定した備えと、被害発生時の事業継続が重要であるとしています。

そこで問われるのが、「AIが攻撃や想定外の状況に遭遇したとき、どのように判断し、どこまで応答してよいのか」という、AIそのものの判断制御の問題です。

合同会社メンタルナビは、この課題に対し、AIの判断・応答をあらかじめ定義した規則や判断基準などの構造に従って制御する「構造的応答制御（SRC）」を研究・開発しています。

SRC方式の考え方（SRC式サイバーセキュリティフロー図ご参照）

AIによるサイバー攻撃は、大規模な場合1セット100万回の攻撃があると言われていますので、入り口で全てを排除することは不可能です。そこで考えられるのが、ハッカーの目的（データの搾取、業務妨害）を排除することです。SRC方式は4段階で攻撃の防御を行います。

1.       入り口での排除

2.       攻撃で汚染されたシステムの回復

3.       システムが機能しない場合、バッファAIによる業務の代替

4.       SRCによるデータの流出防止

6,000回実証テスト

今回、サイバー攻撃を想定した6,000回の実証テストを実施し、最近注目されているガードレール方式との比較によって、SRC方式の安全性、回復性、業務継続性を検証しました。

AIの利用が急速に拡大する一方、サイバー攻撃、プロンプトによる誘導、境界逸脱、論理破壊など、AIの判断そのものを脅かすリスクへの対応が重要になっています。

今回の実証では、認知誘導、資源誘導、権限誘導、境界逸脱、論理破壊、複合的な攻撃を想定した6,000問のテストを実施し、一般的なガードレール方式とSRC方式を比較しました。

6,000回の実証テストで確認された主な結果

誤答率、破綻率、暴走率については、いずれも統計検定でp<0.001となりました。

結果、誤検知、検知漏れ（見逃し）、システム汚染未対応、回復性の脆弱性というガードレール方式の弱点が明らかになり、データ量出や業務停止が発生することが明らかになりました。

誤判断しても、危険な出力を外部に出さない

今回のテストでは、SRC方式でも誤判断そのものが完全になくなったわけではありません。

一方、SRC方式では誤判断4件が発生したものの、データ流出は0件でした。

これは、AIの内部で発生した判断結果をそのまま外部に出すのではなく、外側のSRC-AIが出力を制御し、危険な出力を破棄して再生成する構造によるものです。

システムが破綻しても、業務を止めない

また、SRC方式では構造再構築に失敗したケースが3件発生しましたが、業務停止は0件でした。

内側のAIが破綻した場合でも、SRC-AI（バッファAI）が応答生成を引き継ぎ、業務処理を継続する仕組みです。普段は、既存のAIやシステムに接続して、業務方法を学習しつつ有事にそなえるだけでなく、規定外の判断や応答を差し戻します。

SRCが目指すもの

これまでのAI安全対策では、危険な入力や出力を検知して遮断する「ガードレール」が重要な役割を担ってきました。

SRCはこれとは異なり、AIの判断・応答そのものを、あらかじめ定義した規則、判断基準、チェック、エスカレーションなどの構造に従わせることを目指します。

すなわち、

「AIが何を答えるか」だけではなく、「AIがどのような規律のもとで判断するか」を制御する

という考え方です。

誤判断そのものはゼロではありません。しかし、誤判断が危険な出力やデータ流出、業務停止につながることを構造的に防いだということです。

ちなみに、SRC-AIは後付け可能で、制作作業はパッケージ化しているために、導入作業・コストともに大幅軽減することが可能です。

今後予定しているプレスリリース

1.       AIの不安定性を制御する構造的応答制御（SRC）

AIの根本的問題であるハルシネーションなどの不適切性を抑止する

2.       安全性の高いSRC型再帰的自己改善AI（SRC-RSI）の効果

QCDS（品質・コスト・納期短縮・安全性）とAIが開発したシステム・機能

3.       自動PoCで1万回テストが1時間「AI-PoCプロトコル」　

SRC型再帰的自己改善AIで「情報収集～プロトタイプ～テスト」を自動化

4.       AI業界はAIの性能や安全性を証明するため統計を導入すべき

精度99%の落とし穴、製造業の品質基準6σとの格差

タイトルは若干変わることがあります。

 

技術概要

技術名称： 構造的応答制御（SRC：Structural Response Control）
発展技術： SRC-RSI
今回の実証： サイバー攻撃シミュレーション6,000回
比較対象： 一般的なガードレール方式AI
評価項目： 誤答率、破綻率、暴走率、回復性、データ流出、業務継続性等

 

合同会社メンタルナビ
代表：村田芳実
所在地：東京都西東京市
日本心理学会認定心理士／人工知能学会正会員

連絡先：biribiriglay☆jcom.home.ne.jp

　　　　「☆」に「@」を入れてご使用ください。