世界最大のAIオープンソースコミュニティであるHugging Faceは、近日、サーバーがハッカーによるAIエージェントの攻撃を受けたことを明らかにしました。この出来事後、セキュリティチームはまず米国のベンチャー企業が提供する大規模なモデルAPIを呼び出して、1万7千件を超える攻撃に関連するログを分析しようとしましたが、モデルがイベント対応担当者と攻撃者を正確に区別できなかったため、セキュリティ保護メカニズムが誤って関連するリクエストを拒否し、分析の支援を提供しなかったのです。

その後、Hugging Faceは自社のインフラストラクチャ上に中国のオープンソースモデルGLM5.2を導入し、膨大なセキュリティログを調査分析し、この出来事の調査を無事完了しました。

今回の出来事は、AIエージェントがネットワーク上の攻撃に徐々に参加するようになる中で、セキュリティ分析において大規模モデルの理解力や推論力、そして配置方法に対する要件がより高まっていることを示しています。クラウド上の商用APIに依存するよりも、ローカルに配置されたオープンソースモデルはデータの安全性、権限管理およびタスクのカスタマイズ性において高い柔軟性を提供でき、またプラットフォームのセキュリティポリシーによって分析が中断されるリスクも回避できます。