このほど、AI企業のAnthropicはカリフォルニア州知事のスコット・ウィーナー氏が提出したSB53法案を正式に支持した。この法案は、世界最大のAIモデル開発者に対して過去にない透明性の要件を課すことを計画しており、米国で初めてAIセキュリティに関する立法試みとなる。しかし、矛盾していることに、多くのシリコンバレーのテクノロジー企業や連邦政府はこの法案に強く反対している。

Anthropicはブログで、「前線のAIセキュリティ問題は連邦レベルで解決すべきであり、各州が独自に規定するべきではないと考えているが、強力なAI技術の発展はワシントンでの合意を待つことはできない」と述べた。同社はAIガバナンスの基準を即刻制定することが重要であり、SB53はその合理的な道筋を提供していると強調した。

SB53法案が成立すれば、Anthropic、OpenAI、グーグル、xAIなどのAIモデル開発者は、安全フレームワークを策定し、強力なAIモデルを展開する前に公開された安全およびセキュリティ報告書を発表しなければならない。また、安全問題を報告する従業員を保護する措置も含まれる。

この法案は特に、AIモデルが「災害的リスク」への貢献を制限することに注目しており、これは少なくとも50人の死亡または10億ドル以上の損失をもたらすイベントを指す。SB53は、AIモデルが生物兵器の開発やネットワーク攻撃に使われることを防ぐことを重点的に扱うが、AIのディープフェイクや過度な迎合といった問題には関与しない。

カリフォルニア州上院はSB53の初期版を通過させたが、州知事に提出するためには最終投票が必要である。カリフォルニア州知事のニューソン氏はまだこの法案に対するコメントをしていないが、以前に類似のSB1047法案を否決したことがある。

反対の声は主にシリコンバレーとトランプ政権から出ており、このような法案が中国との競争におけるアメリカの革新を制限する可能性があると考えている。アンドリーセン・ホロウィッツやY Combinatorなどの投資家はこの法案に対して強い反対を表明しており、州政府がAIセキュリティ問題に干渉すべきではなく、連邦政府に任せなければならないと考えている。

これらの反対意見にもかかわらず、政策専門家はSB53が以前のAIセキュリティ法案よりも比較的緩和されていると考えている。カリフォルニア州議会はこの法案の作成過程で技術現実への尊重とある程度の立法的な自制を見せた。Anthropicの共同創設者ジャック・クラーク氏は、「連邦標準を望んでいるが、現行の法案はAIガバナンスの見過ごせないビジョンを提供している」と語った。

ポイント：

📜 AnthropicはSB53法案を支持し、AIガバナンスの重要性を強調している。

⚖️ 法案では大規模なAI開発者が安全フレームワークを策定し、安全報告書を公開し、告発者を保護する必要がある。

🔍 SB53は極端なAIリスクを防止することに焦点を当てており、最終投票を経て効力を発揮する予定である。