AIエージェント技術が企業のコア業務シナリオに急速に浸透する中、OpenClawを代表とする自律実行型AIは、新たな生産性革新の重要なエンジンとなっています。しかし、その強力なシステムアクセスとタスク実行能力は、これまでにないセキュリティリスクをもたらしています。権限の越境、記憶汚染、悪意のある誘導、計算リソースの乱用などの問題が顕在化しています。一部の企業では、効率を追求する一方で、潜在的なガバナンス上の課題を過小評価しているケースがあります。

image.png

これに対応するために、アリババ・データ・テクノロジー（アリババ数科）は正式に「イーティアンジャン2.0 - ロブスター・ガード」AIセキュリティ保護システムを発表し、同時に「ロブスターAIセキュリティ守護計画」を開始しました。この計画は、OpenClawを導入する企業に対して、全ライフサイクルおよび多層的なセキュリティ保障を提供することを目的としています。

今回の発表された「clawセキュリティキット1.0」は3月19日に正式リリースされ、以下の3つの主要な機能を備えています。第一に「対抗思想変異の防止」で、入出力内容を正確に識別し、規則違反情報や悪意ある誘導の元を遮断し、モデルが「黒化」されることを防ぎます。第二に「スキルストアの浄化」で、アリババ数科のCALIR五次元モデルフレームワークに基づき、スキルプラグインに対してコンプライアンススキャンと行動監査を行い、権限の越境、機密情報漏洩、異常呼び出しなどのリスクを効果的に識別し遮断します。第三に「リスクに関する世論の通知」で、リアルタイムのリスク緊急報告を作成し、積極的に配信することで、企業が安全状況をすぐに把握でき、リスクを透明化し即時感知することが可能となり、受動的な防御から能動的な対応へと変化させます。

より多くの企業が低コストでセキュリティベースライン構築を支援するために、アリババ数科は同時に「ロブスターAIセキュリティ守護計画」を開始しました。この計画では、初回の100社のパートナー企業を対象に、3ヶ月間で合計20万回の無料ロブスターセキュリティ保護呼び出しサービスを提供し、顧客が迅速に企業向けのAIセキュリティ保障を体験できるようにすることを目的としています。

大規模モデルのセキュリティ技術において、アリババ数科は先進的な技術力と解決策により、IDC『中国大規模モデルセキュリティ市場図鑑』に選出されました。実際のシナリオでの攻防経験を基に、アリババ数科の大規模モデルセキュリティ技術は、金融コンプライアンス、越獄攻撃などの複雑なシナリオにおいて、SOTA（State Of The Art）の効果を達成しており、ゼロデイの汎化修復リスクを保有しています。