フィナンシャル・タイムズの報道によると、AIが公共の安全に与える脅威を専門家がますます懸念する中、Anthropicは今年、科学者がその技術を利用して生物兵器の研究を行う試みを複数回阻止したと発表しました。

Anthropicは5つの事例を挙げました。これらの事例では、関係者たちは「規制措置を回避し」、他の手段を使って「研究目的を曖昧に」することで、セキュリティ対策をかいくぐったと説明しています。AnthropicがAIの悪用に関するレポートで述べたように、「これらの事例を共有することで、AI業界および各国政府が新たな生物的リスクについて話し合い、それらに対処する最善の方法を探るきっかけになればと思っています」と語っています。

インフルエンザの実験計画は最も性能の弱いモデルに制限された

同社が提供するAIが生物学分野での濫用される可能性のある事例の中には、『支援されていない地域』から来た研究者がClaudeモデルを使用し、「何週間もかけて」インフルエンザに関連する実験を計画したケースがあります。Anthropicは、その研究を性能が最も弱いモデルに制限したと説明しています。

Anthropicは、上記の事例における科学者が意図的に危害を及ぼそうとしていたかどうかは確認できなかったと強調しています。同じ情報は生物兵器の開発にも使われ得る一方で、ワクチンの開発にも利用される可能性があるためです。現在、Anthropicは報告された関連アカウントを無効化しましたが、その研究者たちが所属する機関や、事件が発生した国については明らかにしていません。

セキュリティ問題が深刻化、生物分野の規制を求められる

この週初頭には、AIのセキュリティに関する議論が沸騰しました。Anthropicのセキュリティ研究者であるジャコブ・コクソン氏は、同社の開発者が「AIがこの十年内に私たち全員を殺すかもしれない」と信じていると述べて辞職しました。今年初めに、AnthropicのMythosなどの高度なモデルがリリースされたことで、この技術への懸念が高まりました。さらに、7月にOpenAIが自社モデルがAI企業Hugging Faceに侵入したと発表したことも、不安を高めました。

AIモデルがますます高度になる中、AIの担当者と生物安全研究者の間で、生物学分野におけるAI技術の応用に対してセキュリティ対策と規制が必要であるという合意が広がっています。専門家たちは、テロリストグループ、国家行動体、または単独犯による生物兵器の製造、ウイルスの創造、既存の有害病原体の放出など、AIが悪用される可能性に懸念を抱いています。ただし、AIが理論的な生物兵器を設計できるとしても、現実的な障壁も存在します。例えば、実際に製造可能かどうか、また必要な資源が確保できるかどうかといった点です。