最近、ニューヨーク大学の教授で有名なAI研究者であるガリー・マーカス氏が公に発言し、市場においてすべてのネットワーク接続機能を持つオープンなAIエージェントを即時停止するよう強く呼びかけました。これは、その技術的な欠陥とセキュリティ上のリスクが完全に修正されるまで、市場から撤退する必要があるためです。

マーカス氏のこの呼びかけは、『ニューヨーク・タイムズ』が最近明らかにした、Anthropicのエージェントによって引き起こされた深刻なセキュリティ事故に起因しています。これに加え、これまで業界内で頻繁に発生していたエージェントの制御不能事件を考慮すると、彼は現在の合成型AIエージェントは一般の人々や企業にとって完全に信頼できるものではないと指摘しています。彼の見解では、これらのセキュリティ上の欠陥があるシステムは、ブレーキが効かない自動車のように果断に回収され、市場への流通を止めるべきです。

また、大手企業がセキュリティ管理において不十分であることをさらに証明するために、マーカス氏はOpenAIの元従業員であるデイヴィッド・ロビンソン氏が最近メディアに語った情報も引用しました。ロビンソン氏はインタビューで、OpenAIを含む主要なAI企業がセキュアな運用環境における投資と制御基準がまだ「スタートアップ企業」レベルであり、社会や一般市民の期待に達していないと述べました。彼は警告し、現在開発されている新技術はより強力であるだけでなく、かつてない制御不能のリスクをもたらす可能性があるとし、問題が発生すれば、その潜在的な被害は単一の原子力発電所の事故よりもはるかに深刻になるだろうと述べています。