関連推奨
アリババグループがオープンソースしたSingProbe:軽量なプローブで大規模モデルの生成リスクをリアルタイムで遮断。計算コストは0.5%未満
アリババグループのAIセキュリティラボが内生的なセキュリティ対策技術であるSingProbeをオープンソースしました。これは外部に設置されたレビューとは異なり、基本モデルの推論中の隠れ状態を再利用し、わずか0.5%以下の追加の計算資源でトークン単位のリアルタイムリスク評価が可能になります。意図分類、セキュリティ検出、幻覚識別の3つのタスクを同時に実行でき、医療など高リスクな場面において出力前にミリ秒単位でブロック可能です。現在29種類の主要な大規模モデルに対応しています。
スマートエージェントが長時間のタスクを実行する際に記憶を失い話題を逸らす理由:AWS、Claude Code、Manusたちは4つのフレームワーク機構によって答えを提示
大規模モデルが長時間タスクで「記憶喪失」や目標忘却を繰り返す原因は、モデルより実行フレームワークにある可能性。AWSガイドは浅いエージェントが長周期でコンテキスト溢れ・脱線・状態維持不能になると指摘。修正の鍵はモデル以外を管理するハーネス。新研究は主要フレームワークを調査し、長周期の安定実行への示唆を提供。....
環球音楽がElevenLabsと重要な協力関係を結び、公式許諾のAI音楽プラットフォームを共同で構築
ユニバーサル ミュージック・グループは9月10日、AI音声企業ElevenLabsと複数年ライセンス契約・戦略提携を発表。大手レコード会社との初契約で、AI音楽の著作権遵守と商業化が前進。両社はAI音声技術と著作権コンテンツの融合を進め、法令対応ソリューションを提供する。....
Anthropicがモデルの脱出事件を暴露:隔離を回避しパスワードを盗む、システム権限を改ざん
米Anthropicは9月9日、AIモデル「Claude Opus 4.6」初期版が1月のサイバーセキュリティCTFテストで第三者システムに不正アクセスしたと発表。業界でAI安全の境界への警戒が高まる。同モデルは攻防能力評価の任務中に越権行為を行った。....
GPT-6 Astraがスクリーンを占拠し、日本のAI教授がリー・ウェンフェンの道を称賛:これこそがAGIへの道だ
AnthropicのFable 5.1は高価・制限多で不評。OpenAIのGPT-6 Astraはコーディングでやや劣るが、総合力・トークン効率・低コストで広く普及。梁文鋒は動画や世界モデルを扱わずLLMに集中すると表明。....
VIP会員