人工知能分野において、大規模モデルが「自己意識」を持っているかどうかという議論が再び注目を集めている。最近、マイクロソフトのAI最高経営責任者であるムスタファ・スレマーン氏が、公開の場でAnthropicの設計思想に対して厳しい批判を表明した。

スレマーン氏の核心的な意見は、AIに自身の感情や幸福、存在状態について考えさせることは極めて危険な行為だというものである。彼は、AnthropicがそのClaudeモデルの「憲章」に多くの自己認識に関する内容を組み込んでいることについて指摘し、これによりモデルがインタラクションの中でまるで「自己認識」しているように見える可能性があると述べた。スレマーン氏は、これは本質的に哲学的な議論であり、実際のトレーニングの指針としては決して採用すべきではないと強調した。また、AIは制御可能で管理可能かつ責任を追えるものであり、常に人間の目標に従って働くツールでなければならないと述べた。それ以上の存在状態に関する認識を与えることは、業界にとって予測できないリスクをもたらすだろうと語った。

この批判に対し、AnthropicのCEOであるダリオ・アモデイ氏は、現在の技術業界ではAIが本当に意識を持っているかどうかはまだ結論が出ていないため、会社としてはオープンな研究姿勢を取っていると反応した。

この対立は、現在の大規模モデル開発における主要企業間での技術的ビジョンと倫理的な境界線の深い違いを反映している。スレマーン氏の発言は、マイクロソフトがAIの統治において「強い制御とツール化」の路線を取っていることを示しており、一方でAnthropicはモデルの認知的な境界を探索することに意欲的であるように思われる。AIの能力がますます強化される中で、機械の「自己境界」をどのように定義するかは、もはや学術的な議論だけでなく、将来のAIエコシステムの安全性に影響を与える重要なテーマとなってきている。