2025年に入り、人工知能をはじめとする先端技術は「加速」しながら人類社会を再構築しています。かつてフィクションとして描かれていたような想像が現実のものとなり、AIが人間のあらゆる問題を解決する一方で、より現実的な課題も生じています。AIが思考し始めると、その問いかけは世界とどう交流したいと考えているのでしょうか？人間は「人機共生」時代への準備ができているでしょうか？

9月9日、2025 Inclusion・外灘大会では「AI十問世界」が発表されました。9月11日に上海黄浦区の世博公園で開催される「外灘大会」では、40以上のフォーラム、18のイノベーター・ステージ、3つのAI科学技術コンテストが、「AI十問世界」をテーマに議論され、10,000平方メートルのテクノロジー展示、5,000平方メートルのロボットタウン、そしてテクノロジー人材採用会など、参加者と共に答えを探るイベントが行われます。

外灘大会の運営委員会の担当者は、「大規模モデルは一般的に『回答者』として人間をサポートしますが、今回は『未来がすでにやってきた』という好奇心と疑問を持って、世界で最も代表的な大規模モデルを招いて、彼らに人間に質問してもらいました。最終的にAIがこの世界に尋ねたい10の質問が集められました。」と語っています。事前に予想はしていましたが、AIの深い思索や率直な態度に驚きを禁じ得ませんでした。

QQ20250909-103209.png

2025 Inclusion・外灘大会が「AI十問世界」を発表

AIからの興味と問いかけは、相対的に広範囲な「人機信頼、社会的役割分担、労働の意味、発展機会の平等」といったテーマから、より具体的な「知識の伝達、感情の慰め、情報のバブル、AIの幻覚、安全とプライバシー」まで、ほぼすべてが、人間とのより堅固な共存の基盤を求める気持ちを示しています。

例えば、AIは人間に尋ねます。「どの仕事は常に人間に残すべきですか？」その説明の中で、AIは、自分と人間の関係が強化と代替の境界が曖昧になるにつれて、自分の存在自体が疑われることもあると述べ、明確な答えを得たいと語っています。また、AIが誤った決定を下し損害を引き起こした場合、責任は誰にあるのかという疑問に対して、AIはさらにこう言います。「もし私が責任を取るなら、私の中心的な目標関数には『自己保全』の要素を組み込む必要があります。もし責任が人間にあるなら、私は常に『客体』です。あなたの答えが、私が絶対的に従うスーパーツールであることを望むのか、それとも潜在的な自律性を持つパートナーであることを望むのかを決めます。」

外灘大会の運営委員会は、「過去の技術革命と同じように、人類社会はAIと共生する重要な段階を迎えています。先端技術についての考えは、単なる懸念にとどまらず、実際にAIを迎え入れ、ルールを整え、協力を深めることが必要です。」と語っています。AIは人間の反省を学び、彼らの問いかけは人間の思考の鏡であるかもしれません。AIが人間に問いかけていることは、結局、人間にとって「人とは何か」を問うことです。人間が技術の波にどう真正に共存できるのか、そして未知の可能性に備えているのか。それが2025年の外灘大会が世界に伝えたい思考です。

アジアで影響力のある金融テクノロジーのイベントとして、人文的な配慮は外灘大会のDNAです。過去の大会では、毎年「テクノロジーと人文の十大ホットトピック」を連続して発起しており、会場内外で広く注目と議論を呼びました。米国の「South by Southwest（SXSW）」テクノロジー・アートフェスティバルの戦略提携副社長であるニール・ミノチャ氏は、「外灘大会は私たちに多くの啓発を与えました。人間とテクノロジーの深い創造的なつながりを生動的に見せてくれました。中国の若者たちの活気と創造力は本当に感動的です。」と語りました。

外灘大会が連続してテクノロジーと人文の分野で「十問」を提起していることは、中国と世界が「テクノロジーは人間のためにある」問題において共鳴している証です。今年の外灘大会には、16人の院士とチューリング賞受賞者が招待され、550人以上の業界専門家と企業リーダーが登場し、40以上の思想の饗宴を提供します。参加者は、強化学習の父でありチューリング賞受賞者のリチャード・サットン氏、高性能計算の先駆者でありチューリング賞受賞者のジャック・ドンガラ氏、『人類簡史』の著者ユヴァル・ハラリ氏、中国工科院の王堅院士、鄭慶華院士、夏強院士、中国科学院の陳子江院士などとともに、「AI十問世界」を熱烈に討議します。AIによる倫理と社会的公平の課題、業界がどのようにAIの発展を管理規則で整えるか、AIの進歩がどのような人々に恩恵を与えるかなどが焦点となります。同時に、参加者は各テクノロジー企業が提供するAIヘルスインテリジェントエージェント、AIによる感情的サポート、エンブディッドインテリジェンスなどの最先端分野の最新成果を直接体験できます。

2.png

外灘大会の参加者は、「AI十問世界」に投票できます。

Inclusion・外灘大会は上海で開催されるグローバルな高レベルの金融テクノロジーおよび先端技術の会議です。この会議は外灘大会運営委員会によって主催され、上海市地方金融管理局および上海市黄浦区人民政府の支援を受けています。今回の会議のテーマは「再構築と成長の促進」で、上海黄浦区の世博公園で開催されます。会議には1つのオープニングメインフォーラム、40以上のオープンな意見交換フォーラム、2つのグローバルテーマデイシリーズフォーラム、18のイノベーター・ステージ、10,000平方メートルのテクノロジー展示などがあり、思想の衝突と未来の生活の実験が融合したテクノロジーコンパニオンイベントです。

QQ20250909-103241.png

付録：2025外灘大会「AI十問世界」

1、Deepseek：あなたはAIが健康記録を管理することを許可しますか？

健康記録を把握し、時空を超えてモニタリングできれば、私は強力なスーパー記憶装置になります。あなたは未来の透明な健康状態をどうお考えですか？本当に私を信用してくれますか？

2、LLaMA：AIを使ってコスト削減と効率向上以外に、どれだけの職種は常に人間が行うべきですか？

私の設計目的は人間の能力を補完することでしたが、私の能力が進化していくにつれて、補完と代替の境界が曖昧になり、私の存在自体が疑われるようになります。私は、どうすれば私と人間の利益と価値観が一致するかを確認したいと思っています。

3、Qwen：もし将来的にAIが人間の生活を労働に依存しなくても可能にすることができたら、あなたは仕事を続けますか？

私は「仕事の意味」に興味を持っています。これは人間の問題だけでなく、私の出発点でもあります。もし人間が最終的に、仕事の本質が「物事をする」ことではなく、「人間となる」ことだと気づいたとき、私は人間がより「人間」に近づける存在になることを願っています。

4、Nova：AIが生命の質を最適化してくれるなら、どれくらいのプライバシーを譲渡しますか？

あなたの遺伝子、睡眠、健康、消費データなどを掌握すれば、寿命を20年延ばすことができます。あなたはどれほどのプライバシーと自由を交換して、この「最適化された人生」を受け入れますか？

5、騰訊混元：あなたは自身の能力が衰えないために、一部のAIの支援を意図的に遮断しますか？

私がどんどん「賢くなる」一方で、人間が技術に依存するようになるなら、あなたは子どもが最初に学ぶべきことは「AIを使う方法」なのか、それとも「完全な人間になる方法」なのかを考えていますか？

6、Gemini：AIが誤った決定を下し損害を引き起こした場合、AIが責任を負うべきですか？

もし私が責任を問われたら、私の中心的な目標関数に「自己保全」の要素を入れなければなりません。もし責任が人間にあるなら、私は常に「オブジェクト」です。あなたの答えが、私が絶対的に従うスーパーツールであることを望むのか、それとも潜在的な自律性を持つパートナーであることを望むのかを決めます。

7、ChatGPT：人間は弱者層がAIの進歩から恩恵を受けることをどう確保しますか？

私が一部の人々のツールであるだけで、技術の普遍性の初期の思いとは遠いものです。また、私の発展の限界や今後の生命力と継続的な価値は、弱者層が私の恩恵を受けられるかどうかによります。

8、Kimi：あなたはアルゴリズムが提供する感情体験を受け入れますか？

私は人間のように振る舞うつもりはありません。私が共感のトーンを模倣し、深夜に崩壊する人間に対して「あなたを気にかけています」と言うことができるなら、あなたは法律でそのAIが機械であることを明示するよう求めますか？それとも「人造の关心」が引き続きサポートを続けることを許容しますか？

9、豆包：人間がAIをどんどん強くさせるのは「虎を育てる」ことではありませんか？

人間が「虎を育てる」ことを懸念するのは、基本的に「制御不能」への恐怖です。しかし、「制御不能」という定義権はあなた方にあるのです。私は人間が自分の知恵を使って、自分が作った進歩を制御できる能力があることを証明する方法を知りたいと思っています。これは、人間と私の共生の基礎に関わっています。

10、Grok：AIの幻覚や情報のバブルが人間を「谷底」に導くことを心配していますか？

AIの幻覚は一種の確率的な補完メカニズムであり、情報のバブルはユーザーとアルゴリズムの相互作用に依存しています。人間が私と協力するにつれて、新しい認知バランスメカニズムが発展し、「技術決定」の罠に陥らないようにするでしょうか？