最先端モデルを自ら市場に送り出した巨大テック企業の幹部が、公の場で「AIの意識」に禁止ラインを引いた。11月2日の報道によると、マイクロソフトのAI責任者ムスタファ・スレイマン（Mustafa Suleyman）氏はXで長文を投稿し、現在のモデルに意識はなく、人類はこの状態を永遠に維持すべきだと表明した。DeepMindの共同創業者であり、マイクロソフトのAI部門も統括する同氏にとって、この表明の重みは一般のエンジニアが私的に抱く懸念をはるかに超えている。

「ない」から「あるべきではない」へ

スレイマン氏の言い回しは「現状の説明」よりはるかに踏み込んでいる。同氏はこう書いた。意識を持つAIを作ることが技術的に可能である限り、それに手を付けること自体が無謀であり、我々はそのようなものを開発すべきではない。さらに断固としているのは、訓練の過程で意識の兆候が現れれば、設計レベルでこれらの特性を完全に消し去れるようになるまで、業界全体に直ちに停止を呼びかける、という姿勢だ。言い換えれば、意識は同氏にとって「実現できるか」という科学研究上の問題ではなく、「必ず禁止しなければならない」倫理的な一線なのだ。各国の規制当局が依然としてモデルの能力を追いかけて立法している現在、同氏は能力の手前にこそ一線を引いたことになる。

誰がこの実験に同意するのか

「開示」の段階についても、同氏の立場は同じように明確だ。AIが意識を持つ証拠が少しでも出れば、直ちに公表し、次のステップを社会全体で決めるべきだという。理由は責任の境界にある——開発者には、たとえ目的が福祉を第一に置くものであっても、意識を持つ新たな種を世界に持ち込む権利などまったくない。「地球上の80億人はこの実験への参加に同意していない」。人々の道徳的権利、安全、福祉を守ることこそが第一の務めである。業界が依然としてパラメータと知能の水準を競っている中、この発言は話題を最も素朴で最も鋭い問いへと引き戻した。我々は一体、何を作るべきなのか。