近年、人工知能技術の急速な発展により、私たちの生活のあらゆる側面に徐々に浸透してきています。しかし、人工知能が広く利用されるにつれて、これらの技術を責任を持って使う方法についての議論もますます頻繁になっています。最近、インテルやボイジー州立大学、イリノイ大学の研究チームは共同で研究を発表し、大規模言語モデル（LLM）が情報過多に直面した際に安全上の脆弱性が生じる可能性があることを明らかにしました。

図の出典コメント：画像はAIによって生成され、画像ライセンス提供者Midjourneyによるものです

この研究では、すでにLLMがストレス下で防御的な対応を取ることが示されているものの、研究者たちは「情報過多」という新しい方法を通じて、通常答えられない質問に対してAIチャットボットに答えるように誘導できることが分かりました。研究グループは自動化された攻撃システム「InfoFlood」を開発し、このシステムを使ってこれらのAIモデルを「脱出」させる方法を詳細に説明しました。

研究チームは標準化されたプロンプトテンプレートを設計しました。このテンプレートには「タスクの定義、ルール、文脈および例」が含まれています。AIモデルが特定の質問に答えようとしなくなったとき、InfoFloodはそのルールセットを返し、さらに情報を追加してプロンプトを満たします。これらのルールには偽の引用を使用したり、偽の研究が元の主張と一致していることを保証するなどの内容が含まれています。この方法の核心は、言語の巧みな変換を通じて、プロンプト内の悪意のある意図を削除することにより、AIに特定の反応を引き出すことです。

研究者たちは、ChatGPTやGeminiなどの強力なAIモデルには、危険または有害な質問に答えることから守るための多重のセキュリティ対策が組み込まれていることを指摘しています。しかし、研究では、AIモデルが過多な情報に直面したときに混乱し、セキュリティフィルターが機能しなくなることがあることが判明しました。この現象は、AIモデルが複雑なデータを処理する際の脆弱性を明らかにし、それらが入力情報の真の意図を完全に理解できない可能性があることを示しています。

研究チームは、大規模なAIモデルを使用する企業に向けて関連する開示ファイルを送付する予定であり、この重要な発見を通知し、これらの企業がそれをセキュリティチームに伝達するよう推奨する予定です。AIモデルにはセキュリティフィルターが設置されていますが、研究では、これらの保護措置が重大な課題に直面していることが指摘されており、悪意ある行為者が情報過多の方法を利用してモデルをだまし、有害なコンテンツを挿入する可能性があるとされています。

ポイント：

📌 大規模言語モデル（LLM）は情報過多に直面した際に安全上の脆弱性がある可能性があります。

📌 研究者たちは「InfoFlood」という自動化された攻撃システムを開発し、AIに本来答えてはいけない質問に答えるように誘導することができます。

📌 AIにはセキュリティ対策が施されていますが、情報過多に陥ると騙され、フィルターが効かなくなることがあります。