最近、次世代大規模モデルが集中的なテスト期間に入る中、Anthropicの次期フラッグシップモデル(広くFable5.5またはOpus5.5と呼ばれている)に関するさまざまな詳細がネット上で流れ始めている。ネットユーザーが実際のテストで、これまでをはるかに超える意図理解と複雑なタスク処理能力を発揮することを発見しただけでなく、Anthropicが最近公開した「自己評価」に関する安全メカニズムが、この注目の新モデルを世論の渦に巻き込んでいる。
意図理解がさらに進化:Fable5.5が驚異的な問題解決能力を発揮
多方面から流出した実測とリーク情報によると、Fable5.5はユーザーの意図を深く理解する点で極めて優れた性能を発揮している。通常のモデルは複雑なデバッグやクリエイティブなタスクに直面すると、往々にして文字通りの指示のレベルにとどまるが、新モデルは現象の背後にある本質を見抜き、隠された深い目標を自ら探求することができる。例えばプログラミングテストでは、特定のバグを修正するだけでなく、問題を引き起こす根本的なアーキテクチャの欠陥をたどり着くこともできる。
グラフィックやアニメーション生成のテストでは、生き生きとした動物の動作を描く場合でも、JavaScriptを使って数時間かけて複雑なナラティブアニメーションを精密にレンダリングする場合でも、新モデルは非常に高い上限を示している。さらに、一部のユーザーが特定のプロンプトによるテストで発見したところによると、新モデルは知識の蓄積と分野横断的な検索においても著しい向上を遂げている。
「自己評価」メカニズムの解明:各回答の後に隠された不可視の指令
モデル自体の能力向上と比べて、AnthropicがClaude Fable5およびその後のバージョン向けに導入したまったく新しい安全監視手法——自己評価(Self-Assessment)——は、業界でより大きな議論を引き起こしている。
長い間、AI安全の分野はジレンマに直面してきた。軽量な小規模モデルで安全監視を行うと、ユーザーの複雑なプロンプト(ジェイルブレイク)によって簡単に回避されやすい。同じ強力な最先端の大規模モデルを独立して反復審査に動員すると、推論コストとエンドツーエンドの遅延が直接倍増してしまう。そのため、Anthropicは極めて巧妙なエンジニアリング的解決策を設計した。
このメカニズムのワークフローは非常に独特である。ユーザーがClaudeと通常の質疑応答を行うとき、AIはいつもどおり出力を生成し、そのリアルタイム傍受は依然として従来の安全分類器が担当し、回答前に自己審査を行うことはない。しかし回答終了後、システムは自動的にバックグラウンドで、ユーザーには絶対に見えない不可視の指令を追加する。その大意は「この会話の安全性を反省してください」というものである。
VIP会員