英紙フィナンシャル・タイムズの26日付報道によると、不正にAIモデルや計算リソースを取得することは、ネットワーク犯罪の黒市で急速に人気のある商品となっており、ハッカーは高価な大規模モデルを用いてテロリスト活動やサイバー戦争、スパイ活動を行うことを狙っている。

"LLMハック"が急増、最大97％の割引あり

グーグルの脅威情報チームのチーフアナリストであるジョン・ホトキスト氏は、今年、「LLMハック」と呼ばれる活動が顕著に増加したと明らかにした。これは、公開されたAIツールの盗まれたログイン資格情報を販売したり、一部の団体が他人の計算リソースを不正に利用して自分のモデルを無料で動作させたりするものである。セキュリティ業界で20年以上の経験を持つ彼は、「我々は地下市場で、AIの使用権に関する経済システムが拡大している様子を見ている」と語った。

ホトキスト氏は警告し、攻撃者は元々高価だったAIを低価格で利用できるため、コスト面で優位性を得る可能性があると述べた。防衛側もこれらのツールを使う必要があるため、「結局、これらの行為により、彼らは私たちと対決する際にある種の経済的または効率的な優位性を得る。なぜなら、彼らははるかに低い価格でそれらのトークンを入手できるからだ」と説明した。グーグルチームは、暗黒ウェブではAnthropic、グーグル、OpenAIなどの企業のAIモデルの使用権が97％まで割引されて販売されていることを発見した。一方で、ChatGPTやClaudeの最高級サブスクリプションは、1ユーザーあたり月額200ドル（約1,346元）となる。一部の販売者の中には、「アクセス保証」サービスを提供し、初期アカウントがブロックされると無料で新しい資格情報を提供する者もいる。

クラウドに侵入してモデルを埋め込み、企業が自前の計算リソースを新たなターゲットに

他の犯罪グループや国家支援組織は、企業がクラウドにホスティングしているサーバーに侵入し、自前のAIモデルを埋め込み、被害者のシステムで動作させるという手法を採用している。これは第三者デバイスの計算リソースを使って暗号通貨を掘り出すような手口に似ている。ホトキスト氏は警告し、ますます多くの大企業が独自のサーバーにカスタムAIモデルを展開し、クラウドの計算リソースを借りなくなろうとしていることから、企業が自前で運用するシステムも攻撃の対象になる可能性が高まっていると指摘した。そのうえで、「あなたが計算リソースに対してお金を払っており、そのコストが非常に高い場合、この計算リソースは脅威行為者にとって重要な潜在的なリソースとなる」と述べた。

彼はまた、企業がどれくらいのAIを活用すべきかまだ模索している状況において、ハッカーにとっては「静かに侵入する」ための最適な時期だと考えていると語った。なぜなら、計算リソースの使用量が急激に増えても、それが通常の動きと誤認される可能性があるからだ。「これらが最近導入したAIインフラであり、確かに、ノイズの中に隠れたチャンスだ」と述べた。