周鴻祎：AI大規模モデルの時代、ネットワーク攻撃のハードルは低下する

2025年中国インターネット大会において、360グループの創設者である周鴻祎氏は、大規模モデルが実際の応用において潜在的なリスクについて深く分析しました。彼は、人工知能の急激な発展に伴い、サイバーセキュリティが新たな課題に直面していると指摘しました。従来のITシステムの脆弱性やデータプライバシーの漏洩問題が唯一の脅威ではなくなったのです。

周鴻祎氏はまず、「大規模モデルの『幻覚』問題」を挙げました。これは最大のセキュリティリスクの一つとされています。大規模モデルは未知の情報に対して、根拠がない内容を生成することがあります。この現象はエンターテインメント分野では無害に見えるかもしれませんが、工業生産や政府管理などの重要な分野でこれらのスマートエージェントが使われるようになると、誤った判断が深刻な結果をもたらす可能性があります。特に、スマートエージェントがさまざまなツールを操作できるようになった場合、誤った結果の影響は拡大し、大きな範囲に及ぶことになります。

図の出典コメント：画像はAIによって生成され、画像のライセンスサービス提供元はMidjourneyです。

次に、周鴻祎氏は、大規模モデルがネットワーク攻撃のハードルを下げるリスクにも言及しました。彼は、プログラミング専門外の人々でも自然言語を使って大規模モデルと対話し、簡単にプログラムを作成できることを指摘しました。これは、悪意のある攻撃者が丁寧に設計された指示を通じて、企業の機密情報を漏洩させることができるという「インジェクション攻撃」という攻撃方法を意味しています。今後、プログラミング知識のない一般社員が不満から会社の大規模モデルを攻撃する可能性もあり、内部的な脅威として潜在的に存在するでしょう。

最後に、より広い視点から見ると、周鴻祎氏は大規模モデルが国レベルの高度な脅威攻撃をより一般的かつ複雑にする警告をしました。過去には、中国におけるネットワーク攻撃はそれほど多くありませんでしたが、現在ではハッカーたちが自らの能力と経験を大規模モデルに組み込み、「ハッカーインテリジェントエージェント」として利用しようとしています。強力な計算力のサポートのもと、1人のハッカーが数十乃至数百のエージェントを同時に制御できるようになり、ネットワーク攻防の構図を完全に変えることになります。今後の対立は人同士の競争だけでなく、人間とアルゴリズム、人間とマシン、人間と計算力との戦いになるでしょう。

こうした課題に対処するために、周鴻祎氏は360が積極的に2つの重要な対策を講じていることを明らかにしました。まず、360はスマートエージェントのセキュリティエキスパートを開発しており、企業がリアルタイムで検出および防御を行うことを可能にし、「アルゴリズム対アルゴリズム」の方式を実現しています。さらに、360は専門の大型モデルガードを開発し、大規模モデルの指示を監視し、出力内容の正確性を評価することで、大規模モデルの「幻覚」問題を最大限に軽減しています。