Anthropic は「不法な蒸留」を規制で撲滅させたいと考えており、Y Combinator の社長であるGarry Tan はその対応として「何もない」と述べた。

9月、Anthropic は2番目の脅威情報レポートを発表し、中国の研究室が「不法な蒸留攻撃」を行っていると指摘した。それは、偽の身分を使って詐欺や盗まれた認証情報を用いて、先端モデルの能力を引き出すことを意味する。CEOのDario Amodei は以前から米国の規制当局に蒸留を打ち切るよう公開的に呼びかけてきた。一方、Tan はCNBCでのインタビューで反対の立場をとった。「何もしない。私には、米国独自の蒸留メカニズムが必要だと考えている。」

2つの主張：API制御は越権行為であり、トレーニング時に著作者に尋ねていない

Tan の主張は明確だ。蒸留を禁止するよりも、米国のオープンソース重み値実験室が「正規経路」を通じて、先端的な実験室から合法的に蒸留することを許すべきだ。これは、認証情報を盗んで行うのではなく、合法的なライセンスを通じて行われるべきだ。

この意見には2つの論点がある。第一に、閉鎖型モデルの実験室がユーザーが「API出力で何ができるか」をコントロールすることは越権行為である。Tan の元の言葉は、「閉鎖型モデルのAPI呼び出し結果に対するユーザーと顧客の制限は窒息感を与える。政府はここに役割がある。『広範な公開データで訓練された知能は本来、公共財であり、制限的なサービス条項の後ろに閉じ込められるべきではない』という事実を正常化する必要がある。」

第二に、専有型の実験室がトレーニング中に著作権資料を使用する際には誰にも許可を取っていない。今年7月に承認されたAnthropicの15億ドルの著作権和解案がその例だ。

彼を動かしているのは独占への恐怖

「AIの悪夢のシナリオ、終末のシナリオは、最終的に1社だけが残ることだ。最高の資金調達ルートを持ち、最高のAI研究者を持っている会社が一騎打ちとなり、突然、すべてを支配する巨大企業になることだ。」とTanは語った。彼にとって、オープンソースの重み値はその独占を抑えるための重要な要因だった。「それらは先端にあり、先端を推進している。このことが資金調達可能であり、良いビジネスになることを望んでいる。開発者たちに自由とアクセス権を与えることも必要だ。」

この表明の重みはタイミングにある。Anthropicの脅威報告書が発表されて間もなく、米国政府はAIの蒸留に対して行動を検討していた。YCは米国のオープンソーススタートアップエコシステムの最大の支援者であり、Tanが「禁じないで」と述べたことは、全体のオープンソース陣営の姿勢を示したのだ。

しかし彼は鋭い質問には答えなかった。もし米国の実験室が本当に「正規経路」を開けば、蒸留されたモデルが再び売買される可能性もある。どのくらい「正規経路」を開くのか、その門の大きさ、そしてその裏に壁があるかどうか、Tanは一切説明しなかった。それゆえに「何もしない」という発言は洒落たように聞こえるが、政策面では最も曖昧なものとなった。