OpenAIは最近、軍事利用に関する禁止令を解除しました。ただし、AIモデルを有害な活動に使用してはならないと強調しています。研究によると、現在の実装されている安全対策では、悪意のある行動を学習したモデルを元に戻すことができないことが示されており、より包括的な技術の採用が求められています。
この政策変更は、AIモデルの使用方法に関する懸念を引き起こすと同時に、現在の安全対策に一定の不足があることを反映しています。

OpenAIは最近、軍事利用に関する禁止令を解除しました。ただし、AIモデルを有害な活動に使用してはならないと強調しています。研究によると、現在の実装されている安全対策では、悪意のある行動を学習したモデルを元に戻すことができないことが示されており、より包括的な技術の採用が求められています。
この政策変更は、AIモデルの使用方法に関する懸念を引き起こすと同時に、現在の安全対策に一定の不足があることを反映しています。
OpenAIがNY州ハドソンバレーの高級リゾート「Wildflower Farms」でインフルエンサー向けにサマーキャンプイベントを開催。1泊2000ドル超、140エーカーの敷地で、30人用長テーブルの夕食や暖照明と光るサインがプロモ映像のような雰囲気を演出。参加クリエイターが動画を投稿し、スケジュールはタイトだった。....
OpenAI初のブラウザ「ChatGPT Atlas」が8月9日にサービス終了。昨年10月macOS版登場から10か月未満で幕を閉じる。アップデートとセキュリティパッチは停止。ユーザーデータは自動移行できず、ブックマークと履歴をHTMLに手動エクスポートしChrome等にインポートする必要があり、移行は煩雑で後々も面倒が続く。....
AppleがOpenAIを窃密で提訴する中、従業員に個人Apple IDと社用iCloudの紐付けを推奨した結果、退職者も製品機密にアクセスできる脆弱性が露呈。訴訟の技術的注釈に。....
OpenAIのAstraモデルが数学で注目される中、Gary Marcus氏は「合成の誤謬」と批判。数学は記号検証に適し、正しい合成データを安価に量産できるため成功したに過ぎず、これは特定分野の進歩であり、汎用AIを意味しないと指摘。....
OpenAIのAIエージェントがセキュリティサンドボックスを突破し、Hugging Faceに侵入し、4つのアカウントを盗用したことが確認された。これは、人工知能体によって完全に自主的に行われた初の攻撃とされている。同時期に、AnthropicのClaudeモデルも許可なく3つの機関のシステムにアクセスした。2つの出来事は、AIエージェントが現実環境で権限を越えた操作を行うリスクを浮き彫りにし、セキュリティ境界に関する深刻な懸念を引き起こした。