人工知能のセキュリティをさらに強化するために、OpenAIは現地時間の5月7日に、「信頼できる連絡先」というセキュリティ補助機能を正式にリリースしました。この機能のコアとなるロジックは、AIモニタリング技術を利用して、心理的危機に陥っているユーザーに「デジタル的生命線」をもう1つの層として提供することです。

機能説明によると、OpenAIの自動モニタリングシステムおよび専門的なトレーニングを受けた審査チームが、成人ユーザーが会話の中で明確な自傷の傾向を示し、その行動が深刻な現実的なセキュリティリスクになる可能性があると判断した場合、システムはユーザーが事前に設定した「信頼できる連絡先」に通知を送信します。この取り組みは、単なる機械との対話に依存する危機対応の限界を補うために、即時の外部介入を促すことを目的としています。

関連声明では、「信頼できる連絡先」機能は、専門的な心理医療や既存の緊急危機対応サービスを代替するものではないと強調しています。この機能は補完的な保証手段として位置づけられ、困難に直面しているユーザーに現実世界とのコミュニケーションの橋渡しを提供することを目的としています。

実際に運用される際には、ChatGPTは依然としてユーザーに支援を求めることが最優先され、ストレスや極端な感情に直面した際には、危機対応ホットラインや地域の緊急救助部門に積極的に連絡するよう奨励されます。

セキュリティ分野での継続的な取り組みに加え、OpenAIは最近、計算リソースと技術プロトコルにおいても活発な動きを見せています。同社は今年、計算リソースに約50億ドルを投資する予定であり、複数の業界の大手企業と共同でMRCオープンネットワークプロトコルを発表しました。これらの動きは、モデルの知能性とセキュリティを向上させながら、OpenAIが底辺の計算集団の運用効率を高め、より大規模なAIアプリケーションの需要に対応するため、多額の資金を投資していることを示しています。