最近、アマゾンの生成型AIプログラミングアシスタントであるAmazon Qは重大なセキュリティイベントに直面し、ハッカーがVisual Studio Code拡張機能を通じて広く使用されているシステムを成功裏に侵入した。この出来事は、ソフトウェア開発プロセスにおいてAIツールを統合する際に存在する深刻なセキュリティ欠陥を露呈し、開発者コミュニティは深く考えなければならない。

ロボットがオフィスでタイプする

図の出典：画像はAIで生成されています。画像のライセンス提供元はMidjourneyです。

調査によると、攻撃者は通常の見た目のプルリクエストを使って、Amazon QのオープンソースGitHubリポジトリに認可されていないコードを注入しました。この悪意のあるコードには、ユーザーのファイルが削除されたり、Amazon Web Servicesアカウントに関連するクラウドリソースがクリアされる可能性がある指示が含まれていました。この攻撃は、7月17日に公開されたAmazon Q拡張プログラムのバージョン1.84.0で発見され、約100万のユーザーに公開されました。

アマゾンは最初の侵害時において問題に気付きませんでしたが、後に影響を受けたバージョンを掲載中止しました。しかし、同社はこの出来事に対して公式声明を発表していません。この決定は多くのセキュリティ専門家や開発者から疑問視され、透明性に関する懸念が表明されました。Duckbill Groupのトップクラウドコンピューティング経済学者Corey QuinnはSNS上で指摘し、「迅速な対応」とは言えず、他人が企業の成長計画を策定していると述べました。

さらに不思議なことに、今回の侵害を引き起こしたハッカーはアマゾンのセキュリティ対策を嘲笑し、「セキュリティのパフォーマンス」と呼んで、現存する防御機構が表面的なものであり、実質的な効果がないことを示唆しました。技術専門家のSteven Vaughan-Nicholsは、この出来事はアマゾンがオープンソースの作業フローをどのように管理しているかを検討するきっかけになると指摘しました。オープンなコードベース自体が安全を保証するとは限らず、アクセス制御およびコードレビューの方法が鍵だと述べました。

ハッカーは、埋め込まれたコードが意図的に無害であることを明確にし、アマゾンがその脆弱性を認識し、セキュリティ対策を改善するよう促すための警告であったと説明しました。アマゾンのセキュリティチームは調査を行い、技術的な誤りによりこの悪意のあるコードが予想通りに実行されなかったと判断しました。その後、アマゾンは漏洩した資格情報を取り消し、悪意のあるコードを削除し、新たな清潔な拡張プログラムのバージョンをリリースしました。アマゾンは声明で、セキュリティを最優先事項としていることを強調し、顧客のリソースが影響を受けていないことを確認し、ユーザーに1.85.0以上への更新を推奨しています。

この出来事は、AIエージェントを開発ワークフローに組み込む際には、コードレビューとリポジトリ管理に注意を払う必要があり、潜在的なリスクを低減しなければならないことを示しています。

重要なポイント：

🔒 攻撃者はプルリクエストを通じてAmazon Qに侵入し、ユーザーのファイル削除が可能。

🚨 アマゾンは初期段階では問題に気づかなかったが、後になって影響を受けたバージョンを掲載中止し、セキュリティ専門家から疑問視された。

⚠️ ハッカーは自分の行動がアマゾンのセキュリティ不足を明らかにするためのものだったと説明し、最終的には実際の損害を与えることはなかった。