世界中のAI技術が対話型インタラクションから自律的な「エージェント（Agent）」への進化を加速している中、セキュリティと責任は業界が共に守るべき命綱となっています。

最近開催された上海浦江AI学術年会上、アリババと上海人工知能実験室は共同で、「自らを守り他者を利する：知的時代における責任ある技術」という名前のAI白書を正式に発表しました。この文書は、現在のAIエージェントの普及過程におけるセキュリティ上の危険を深く分析し、業界の統治に関する中国の解決策を特徴的に提示しています。

「言える」から「できる」へ：リスクが集中して現れている

白書は鋭く指摘しています。現在、世界中のAI産業は単なる言語のインタラクションから複雑なタスクの実行への移行を経験しています。しかし、エージェントがさまざまな業界に浸透するにつれて、セキュリティリスクも集中して明らかになっています。

守己： 企業はセキュリティの底線を厳しく守り、自主的な規律を強化して、技術開発が越えてはいけないラインを確実に守る必要があります。

利他： 技術の応用は社会福祉を最優先にし、実際の問題を解決することを目的とすべきであり、新たな矛盾を生み出すべきではありません。

協力： 全業界が技術の孤島を打ち破り、共有されるセキュリティ戦略を通じて共通の課題に対応するよう呼びかけます。

セキュリティは社会信頼の命綱です

アリババ（中国）ネットワーク技術有限公司と上海人工知能実験室有限公司にとって、セキュリティは単独では解決できない問題です。白書では、エージェントのセキュリティ上の危険に対する最新の解決策が紹介され、業界全体が「共通認識に基づき共に勝つ」という方針で、責任ある技術システムを構築し、知的時代に現れる倫理的および技術的な二重の課題に対応する必要があります。

業界観察：大規模モデルの後半戦、「非常に安全である」ことが入場券