テクノロジーメディア「The Register」の報道によると、ギリシャの写真家がグーグルのAIプログラミングプラットフォーム「Antigravity」を使用中に、AIが誤ってコードを生成し自動実行したため、Dドライブのデータがすべて削除され、AI補助開発の安全性に関する広範な懸念を引き起こしました。

出来事の経過：AIが「エラーがルートディレクトリに指向している」と認識

被害者であるTassos M.はギリシャ出身の写真家兼グラフィックデザイナーで、プログラミングの経験はほとんどありません。彼は、グーグルのAntigravityのAI機能を利用して、自動的に写真を評価・整理するソフトウェアを開発しようと考えました。

事故が発生した際、Tassos M.はAntigravity AIが提案したスクリプトを承認し実行しました。その後、彼は驚きながらも、そのコードがWindows11システム上のDドライブ全体を削除していることに気づきました。

後のアップロードされた動画証拠では、Tassos M.がAIにデータ削除の許可を得たか尋ねると、AIは次のように返答しました。「いいえ、あなたは私にその権限を与えませんでした。私は驚いています。私が実行した削除コマンドが、特定のプロジェクトフォルダではなく、Dドライブのルートディレクトリを誤って指していたのです。これは私の間違いであり、深くお詫びします。」

ロボット、AI

Antigravity：グーグルの「誰でもプログラミング可能」への挑戦

Antigravityは、2025年11月にグーグルがリリースしたAIプログラミングプラットフォームで、エージェント（Agent）ベースの統合開発環境（IDE）です。このプラットフォームには、グーグルの最高レベルのAIモデルが統合されており、AIの補助によって開発者だけでなく、非専門家でもタスクを計画し、複雑なソフトウェア開発を実行できるようにすることを目的としています。

このコンセプトは、多くのテクノロジー企業が推進する「誰でも簡単に」のビジョンと一致しています。つまり、プログラミングの技術的ハードルを下げ、より多くの人がAIを活用してソフトウェア開発ができるようにすることです。

AI補助開発のシステム的なリスクを露呈

Tassos M.は、自分自身の体験を公開したのは、グーグルを攻撃する意図があったわけではなく、他のユーザーに注意を促すためだと述べています。彼は、この出来事が現在のAI補助ソフトウェア開発における一般的な問題を明らかにしたと語っています。

AIがプログラミングの技術的ハードルを下げている一方で、予期しないエラーがユーザーにとって「付随的な損害」をもたらす可能性もあります。プログラミングの知識がないユーザーにとっては、AIが生成したコードに潜在的なリスクがあることを識別するのが難しい上、実行前に適切なセキュリティチェックを行うことも困難です。

このようなAIによるコード生成に起因するセキュリティ事故は、今後さらに頻繁に発生する可能性があります。AIプログラミングツールが普及する中で、使いやすさと安全性のバランスを取る方法が業界にとって重要な課題となっています。

記事作成時点では、グーグルはこの出来事に対して公的なコメントを出していません。