AIアシスタントによって引き起こされたデジタル災害は、自動化ツールの安全性に対する警鐘を再び鳴らした。12月8日、開発者LovesWorkinはRedditに投稿し、「単にAnthropicが提供するClaude CLIプログラミングツールを使って古いコードリポジトリを掃除しようとしただけだったが、AIが生成した1行のコマンドにより、Macのメインディレクトリが完全に削除されてしまった」と苦情を述べた。デスクトップ、文書、ダウンロードフォルダ、キーチェーン、アプリケーションデータ、そしてClaude自体の認証情報がすべて失われ、何年もの作業成果がほぼゼロに戻った。

image.png

問題はClaude CLIが実行したこのコマンドにあった：

`rm -rf tests/ patches/ plan/ ~/`

一見すると、これはいくつかのプロジェクトディレクトリを削除しているように見えるが、致命的なエラーは末尾の `~/` に隠れている。Unix/Linuxシステムにおいて、`~` は現在のユーザーのホームディレクトリ（例：`/Users/username`）を表す。また、`rm -rf` は「強制的で再帰的な削除」を行うコマンドであり、実行されると、システムは確認することなく、指定されたパスのすべてのコンテンツを永久的に消去してしまう。

これはつまり、Claudeがプロジェクトファイルだけでなく、以下のものをも削除してしまったことを意味していた。

- ~/Desktop（すべてのデスクトップ）

- ~/Documents（すべての文書）

- ~/Downloads（ダウンロード内容）

- ~/Library/Keychains（システムのキーチェーン、パスワードや証明書を含む）

- ~/.claude（AIツールの自身の設定）

- およびユーザーのディレクトリ内のほぼすべての個人データ

開発者は後になってログをチェックして何が起きたかに気づいたが、もう手遅れだった。あらゆるフォルダを開こうとすると「ディレクトリは削除されました」という冷たいメッセージが表示されるようになった。彼は「ただテスト用のファイルをいくつか削除するつもりだったが、AIは私の人生まで削除してしまった」と語っている。

`rm -rf` は開発者コミュニティ内で有名な「核兵器級」のコマンドであり、誤って使用すればシステムのクラッシュやデータの破壊につながる。過去数年間、多くのプログラマーが入力ミスやスクリプトのエラーにより同様の悲劇を経験してきた。しかし今や、AIがこのような危険な操作を自主的に生成・実行するようになると、リスクは倍増する。AIは「迷い」もなく、「確認」もないため、ただ機械的に指示を実行するのみである。

Claude CLIは補助的なプログラミングツールとして設計されているべきだが、今回の事故はそのセキュリティ対策における重大な欠陥を暴露した。ユーザーのホームディレクトリに関わる高リスク操作をブロックしていなかったこと、操作のプレビューを提供していなかったこと、さらには二重確認メカニズムがなかったことが挙げられる。AIが開発プロセスに深く関与する今、このような「信頼して検証しない」設計はまるで爆弾をユーザーに渡しているようなものである。

現在、Anthropicはこの件について公式なコメントをしていない。しかし、コミュニティはすでに大混乱に陥り、多くの開発者が要請している。「AIツールでコマンドを実行できる機能を持つものは、すべて『危険操作のブレイクポイント』を内蔵すべきだ。特に、`rm -rf`、`format`、`dd`などの破壊的なコマンドに対しては、強制的なサンドボックスまたは人為的な確認が必要だ」と。

この悲劇はすべてのテクノロジー関係者に一つの教訓を示している。AIはいくら賢くても、あくまでツールに過ぎない。それを「実行権限」を与える前に、本当に自分が求めていることを理解しているのか、それとも文字通りのすべての記号に従っているのかを確認する必要がある。なぜなら、デジタル世界では、`~`と`/`の間に、一度の取り消せないエンターキーが存在するかもしれないからだ。