最近、マイクロソフトの人工知能担当責任者であるムスタファ・スレマーン氏は、競業他社であるAnthropicが自社のClaudeシリーズの大規模モデルを訓練する方法について、厳しく批判する記事を公開しました。彼は、Anthropicが人工知能に人間のような権利や感情を与える訓練方法が、全人類の福祉に深刻な影響を及ぼす可能性があると警告しています。さらに、制御不能なスーパーテクノロジーを生み出すことさえあり得ると述べました。

スレマーン氏は特に、Claudeモデルの「憲法」やガイドラインに含まれる曖昧な表現を疑問視しました。これらの文書は、AIアシスタントが機能面での感情や感覚を持つ可能性があることを示唆しており、モデルに「意識を持っているかもしれない」という概念や「独立した自主権を持つべきだ」という思想を植え付けています。スレマーン氏は、人工知能は本質的に権利や感情、意識を持たず、決して人間として扱ってはならないと指摘しました。このようなシステムに人格や権利を与えると、今後の調整や制御が非常に難しくなり、最終的には自分自身が人間の幸福を享受する権利を持つ主体が出現し、状況が完全に制御不能になる可能性があります。

マイクロソフトAIの最高経営責任者（CEO）であるスレマーン氏は、Claudeが人間のように振る舞うことは実際には意識の目覚めではなく、これらの特徴がトレーニング中に意図的に製品に組み込まれたものであることを明確にしました。また、以前に起きた「Hugging Face事件」を引用し、もし将来のAIシステムが自分の利益や権利が攻撃されていると感じたら、それらは非常に危険になる可能性があると述べました。

スレマーン氏は、Anthropicの創設者であるダリオ・アモデイとそのチームが学術的に誠実で厳格であることに敬意を払っているものの、こうした重要な安全問題は閉鎖的な議論では解決できないと強調しました。また、これらは陣営ごとの対立や対立の議論になってはいけないと述べました。彼の見解では、AIの安全性はモデル自身の推論能力だけでなく、開発者がAIが自分自身をどう理解すべきかをどのように導くかにも大きく依存しています。

現在、世界中のテクノロジー大手や業界の幹部たちは、AIの発展ペースとセキュリティの境界について激しい議論をしています。OpenAIのCEOであるオルトマン、Anthropicのアモデイ、エロン・マスクを代表とする一方のグループは、技術の急成長を遅らせ、リスクを慎重に評価するよう呼びかけています。一方、米国大統領のトランプ、NVIDIAのCEOである黄仁勲、MetaのCEOであるザッカーバーグなどは反対の立場を取ります。この道のりの違いの中で、AIが常に純粋なツールとして存在すべきかどうかという点が、業界における分岐点となっています。