最近、OpenAIは透かし技術をめぐって社内議論に陥っています。ウォールストリートジャーナルの報道によると、同社は既にChatGPTが生成したテキストを識別するための透かし技術を開発しており、検出ツールも準備しているとのことです。しかし、この技術を市場に投入するかどうかについては、社内意見が分かれています。

ChatGPT OpenAI 人工知能 (1)

ある観点から見ると、透かし技術の導入は責任ある行動と言えるでしょう。この技術は、モデルの予測する単語やフレーズを調整することで、検出可能なパターンを作成します。やや複雑に聞こえるかもしれませんが、その目的は明確です。教師が生徒によるAI生成の課題の剽窃を防ぐのを助けることです。報告によると、この透かしはチャットボットのテキスト品質には影響しません。さらに、OpenAIが行った調査では、世界中でAI検出ツールを支持する人の数が反対する人の4倍以上であることが分かりました。

しかし、透かし技術の実装はそれほど単純ではありません。OpenAIのブログの更新では、同社が透かし技術を開発したことを確認し、その方法は非常に正確で、「99.9％有効」であると主張しています。また、この透かしは、単純な書き換えなど、「改ざん」に対してある程度の耐性があります。しかし、OpenAIは、他のモデルを使って書き換えれば簡単にこの透かしを回避できることを懸念しています。

さらに、OpenAIは、透かしによって一部のユーザー、特に非ネイティブスピーカーがスティグマを感じてしまう可能性も考慮しています。そのため、透かしが有効であると考える従業員もいる一方で、調査によると、ChatGPTユーザーの約30％が、透かしが実装された場合、使用頻度を減らす可能性があると回答しています。そのため、有効性がまだ検証されていないものの、「比較的論争の少ない」方法を探ることを提案する従業員もいます。

今日のブログの更新で、OpenAIはメタデータの埋め込み方法を「初期段階」で検討しており、その効果を判断するにはまだ時期尚早であると述べています。しかし、このメタデータは暗号化された署名が付いているため、誤判定を避けることができると指摘しています。

要点：

✅ OpenAI社内では透かし技術の導入について意見が分かれており、公開するかどうかは現在も検討中です。  

📊 調査によると、世界中でAI検出ツールを支持する人が多いものの、ユーザーは透かしが使用に影響することを懸念しています。  

🔒 OpenAIはメタデータの埋め込み方法を検討しており、技術とユーザーエクスペリエンスのバランスを取ろうとしています。