著名な数学者の陶哲軒氏は、人工知能が多くの分野で驚くべき能力を示しているにもかかわらず、数学の分野では依然として人間の直感が持つ重要な「嗅覚」——すなわち誤った方向や誤証明を見分ける能力——が欠けていると述べています。彼によると、この直感は現在の人工知能にはコピーできないものであり、そのため人類は数学的な判断において依然として不可欠な役割を果たしています。

陶哲軒氏は、生成型の人工知能が数学的な証明を作成する際に、表面上は完璧に見えることが多くても、その中に存在する欠陥は「非常に微妙」であり、発見されたときに「非常に愚かな」ものだと指摘します。このような人間だけが持つ能力を「メタファー的に数学的な匂い」と呼び、何かがおかしいと感じたらすぐに警告を発する能力だと言います。陶哲軒氏は、「どうすれば人工知能が最終的にこの能力をコピーできるようになるのかはまだ明らかではない」と強調しました。

ロボット大会 答え合わせ 数学

さらに彼は説明し、現在の人工知能、特に生成モデルは誤った方法を選ぶとしばしば行き詰まる傾向があると述べました。彼によれば、人工知能が本当に解決するのが難しいのは「いつ間違った方向に進むか」であるとのことです。これは、ニューラルネットワークと記号推論を組み合わせたハイブリッド人工知能システムとは異なる点です。

しかし、陶哲軒氏もまた、AlphaZeroのようなシステムが囲碁やチェスなどの分野で顕著な進展を遂げていることを認めています。彼はこれらのシステムが、ある局面がどちらのプレイヤーにとって有利かを判断する「嗅覚」を持っていると考えています。ただし、その理由を説明することはできませんが、この「嗅覚」はそれらに戦略を立てる力を与えています。陶哲軒氏は、もし人工知能が証明の戦略的な妥当性を感知できる能力を得られれば、問題を分解する際に建設的な提案をできるだろうと想像しています。「ん、これは良さそうだ; この2つのタスクはあなたの主なタスクよりも簡単で、まだ正しい可能性が高い」といった形でです。

情報によると、AlphaZeroはゲームやトレーニングの中でモンテカルロ木探索(MCTS)を「記号フレームワーク」として採用し、可能なゲームパスを探索するために記号状態を利用しています。しかし、その本質は依然としてニューラルネットワークに基づいたディープ強化学習システムであり、自己対戦を行い数百万のパラメータから学習しています。

一部の研究者は、大規模言語モデルと記号推論の利点を組み合わせることで、人工知能が数学分野で大きな進展を遂げる可能性があると信じています。純粋なLLM（ある程度の推論能力を持つ場合でも）は複雑な数学問題において行き詰まりやすいからです。陶哲軒氏は以前、OpenAIの推論モデルo1を「平凡だが全く無力ではない」と評価し、日常的なタスクを行う研究アシスタントに例えていますが、創造力や柔軟性に欠けています。また彼は、FrontierMathベンチマークの開発にも参加しており、これは人工知能システムに挑戦的な数学問題を設定し、その分野の発展を目指しています。