最近、世界的セキュリティ会社であるESETは、世界初のAIランサムウェア「PromptLock」を暴露しました。このマルウェアはOpenAIがオープンソースで公開したgpt-oss:20bという言語モデルを使用しており、感染した端末上で悪意のあるLuaコードをローカルに生成することができ、驚くべきことに、Windowsシステムだけでなく、LinuxやmacOSでも動作します。

ESETの最新レポートによると、PromptLockは事前に設定されたテキストプロンプトを使ってgpt-oss:20bモデルを呼び出し、被害者の端末上でファイルを検索・窃取・暗号化する悪意のあるコードを直接生成します。このプログラムは、さまざまなオペレーティングシステムで柔軟に適合でき、非常に隠蔽性と適応性を持っています。現在のところ、PromptLockがファイルを直接削除する機能を持っていることは確認されていませんが、その潜在的な脅威性は明らかであり、ハッカーが今後さらにアップグレードや改善を行う可能性があります。

image.png

動作メカニズムについて、gpt-oss:20bモデル自体はサイズが大きく、約13GBあり、VRAMの要件が高いです。しかし、ESETは攻撃者が内部のエージェントやトンネルを作成し、被害ネットワークと外部サーバーを接続することで、外部サーバー上で動作するモデルを使用し、ローカルのVRAM制限を回避し、Ollama APIを通じてアクセスできると指摘しています。

セキュリティ専門家は、PromptLockが単なる概念実証プログラムであるか、開発中である可能性があることを指摘していますが、無視できないのは、この出来事がローカルまたはプライベートAIを悪用する初期の兆候かもしれないということです。Citizen Labの研究者John Scott-Railtonは、現在の防御策がこのような新種の脅威に対処する準備ができていないと警告しています。

OpenAIはこの出来事に対して反応し、研究者たちの報告に感謝するとともに、モデルが悪意を持って利用されるリスクを軽減するための措置をすでに講じていると述べました。OpenAIは、技術が不正な目的に使われないよう保護機構を継続的に改善する努力を続けていくと述べています。

AI技術が進化し続けるにつれて、サイバーセキュリティの課題も深刻化しています。これらの新しい脅威に注意を払い、効果的な防御手段を講じることで、私たちのデジタル資産やプライバシーの安全を守る必要があります。