マイクロソフトのCEOであるサティア・ナデラ氏は、会社内の掲示板に内部メモを公開し、AI業界が過度に発展しているかどうかについて意見を述べました。

彼は、AIが人間の制御下にあるべきであり、広範な第三者によるテストを支援する必要があると述べました。また、技術の安全性を確保するために時間をかけることが必要だと警告しました。「リスクが高まれば、必要なだけの時間を使うべきだ。」と語り、「それ以外の場合、いつか運営許可を失うことになるだろう。」とも言いました。

業界から一斉に声が上がった、マイクロソフトは37ページの行動指針を公開

以前、いくつかのAI研究者たちは先週、AI技術がすべての人々を殺す可能性があると警告しました。週末には、AnthropicのCEOであるダリオ・アモデイがAI開発のスピードを遅らせるよう提案し、外部からの監視を許容すると述べました。OpenAIのCEOであるサム・オルトマン氏も第三者による監視を支持し、必要に応じて配備を遅らせるべきだと述べました。これにより、AIの整合性と安全性を確保するためです。

月曜日、マイクロソフトは37ページにわたる「人間主義的」なAIモデルの行動指針の草案を公開しました。マイクロソフトのAI担当責任者であるムスタファ・スレイマーン氏は、「我々が理論的に長年懸念していたことは、すでに現実となった」と述べました。

3つの重点：設計目標、顧客のコントロール、コミュニティへの利益

ナデラ氏は、メモの中で3つの重点分野を提示しました。第一に、明確な設計目標：AIは人間の制御下にあり、社会全体に広く利益をもたらすべきです。これは、オープンソースと非オープンソースの両方のモデルが繁栄できる前線的なエコシステムを作り上げることを意味します。方向を調整する際には慎重なペースで進める必要があります。彼はこのペースを、リリース前の開発とテストに例え、より多くの外部または第三者のテストやテスト者がいることは良いことだと述べました。リスクが高まれば、必要なだけの時間をかけるべきであり、そうでなければ最終的には運営許可を失うことになります。

第二に、顧客に関しては、彼らが独自かつ暗黙的な知識をコントロールできることを確保することが重要です。これにより、自身の継続的な学習サイクルを構築でき、あらゆるモデル提供者に依存することなくなります。Foundryにより、長期間にわたるインテリジェントエージェントが企業向けの準備が整い、セキュリティや安全対策、FinOpsなどが組み込まれています。

第三に、マイクロソフトは、地域住民がインフラ整備によって実際に恩恵を受けることを確保して、インフラ建設の許可を得る必要があります。ナデラ氏は、クインシーデータセンターが、会社と地域が長期的に共に成長してきた例であると述べました。

ナデラ氏は結論として、これらは3つのレベルを通じた取り組みであると述べました。それは、どのように前線で構築するか、どうやって顧客がコントロールを保つのか、そして経済的利益が地域と国全体に広がるかです。彼は、会社として、これらの言葉の裏にある実際の行動を指し示せると語りました。