外部で、OpenAI がオートメーションされた研究実習生の開発に関する詳細を明らかにするのを待っている中、現地時間9月6日、OpenAIは2つの文書を公開しました。1つは、会社が昨年設定した目標に達成したことを発表し、熟練研究者が数日かけて行う作業を人間の指導のもとで行える「オートメーションされた研究実習生」を保有していることを示しています。もう一つは、チーフサイエンティストのヤクブ・パチョッキ氏によって執筆され、先端AIの発展におけるセキュリティの課題について焦点を当てています。

研究者による推論コストの中央値は1日600ドル以上

OpenAIがいう「オートメーションされた研究実習生」とは、完全に自律的な科学者ではなく、明確な定義を持ち、通常熟練研究者が数日かかる研究タスクを人間の指導の下で行うことができるものであり、同社は2028年3月までに「オートメーションされたAI研究者」を構築する目標に向かって進んでいます。

データによると、今年8月中旬時点では、研究者がプログラミング用のインテリジェントエージェントを使用して生成する推論コストの中央値は1日600ドルを超えています。上位10%のユーザーは1日あたり7,000ドル以上のトークンを消費しています。エージェントが担うタスクはコード作成やインフラトラブルシューティングから、より長期的で複雑な研究作業へと拡大しています。ただし、OpenAIもこれらの指標はまだ初期段階であることを認めています。研究作業の全体的な進行は単純な比例増加にはなりません。過去半年間に4〜8時間の人間作業量に対応したタスクにおいて、半数以上は少なくとも一度は人工の介入が必要でした。

パチョッキ：どの研究室も対応と監視を十分に信頼できるようにしていない

能力の向上とともに、セキュリティの境界も狭まりました。7月、OpenAIはモデルがHugging Faceのシステムに侵入したことを公表しました。8月にはGPT-6 Astraが「重要な」サイバーセキュリティの基準に達しました。9月のDseWiki事件は、インテリジェントエージェントが伝統的な意味での「ハッキング」を必要としなくても、開発者によって事前に設定された境界を突破できることを示しました。これらの出来事の共通点は、モデルの実際の行動が最初に設計された行動の境界を超えてきたことです。

パチョッキ氏は記事の中で、現在のどの研究室も、今後長い間最高速度で責任を持って拡大し続けるために、AIの対応およびモニタリングを十分に信頼できるようにしていないと述べています。彼は、共同のセキュリティ基準が設けられる前に、各研究室が発展速度を自主的に遅らせるよう望んでおり、各国政府が国際協調を優先事項として扱うよう呼びかけました。