人工知能の分野において、OpenAIはまた一つ動きを起こしました。今回は、Promptfooというスタートアップ企業に注目しました。Promptfooは2024年に設立され、わずか23人のチームがいますが、わずか2年で評価額が8600万ドルにまで急上昇しました。この会社はAIのセキュリティと評価に特化しており、オープンソースツールであるPromptfooはAIアプリケーションの評価分野で大きな影響力を持ち、35万人以上の開発者のユーザー基盤を持っています。

OpenAIがPromptfooを買収したのは、インテリジェントエージェントのセキュリティにおける欠点を補うためです。AIの「同僚」が企業の業務プロセスにますます導入される中、評価とセキュリティは不可欠な要件となっています。Promptfooのオープンソースの評価フレームワークは、開発者が複数のプロンプトやモデルを一括してテストするのに役立ち、システムのセキュリティと安定性を向上させることができます。

image.png

Promptfooの核心チームは、DiscordやSmile Identityなどの企業で重要な職務を担ってきました。彼らは、AIシステムの複雑さが増すにつれて、既存のセキュリティツールが限界に達していることに気づき、開発者や企業がAIのセキュリティをより効果的に検出できる新しい評価ツールを開発することを決定しました。この決定により、Promptfooは短期間で驚くべき成果を上げ、フォーチュン500社の25％以上がその製品を使用しています。

今回の買収後も、Promptfooはオープンソースの特性を維持し、OpenAIの「Frontier」というインテリジェントエージェントの作成と運用プラットフォームと統合されます。OpenAIはPromptfooの技術をインテリジェントエージェントとの協働戦略と組み合わせ、エージェントのセキュリティと効率を向上させる計画です。この取り組みは、OpenAIがインテリジェントエージェントのセキュリティ問題に非常に重要視していることを示しています。特に、エージェントに高い権限が与えられる場合、潜在的なリスクが顕著に増加します。

Promptfooは、CI（継続的インテグレーション）のように、AI分野における「必須ツール」になることを目指しています。標準化された評価プロセスを通じて、開発者はAIアプリケーションのセキュリティと安定性をより簡単に確保できます。