據《讀賣新聞》報道，日本一名25歲男子因濫用生成式 AI 製造電腦病毒，被東京地方法院判處有期徒刑三年，緩期執行四年。這是日本首次有因濫用生成式 AI 作出刑事定罪的案例。

根據判決書等資料顯示，該男子利用電腦和智能手機，通過生成式 AI 獲取的惡意程序設計圖（源代碼）製作了類似勒索軟件的電腦病毒。此外，他還冒充他人騙取了手機通信卡等物品。

黑客帝國 科幻 銀翼殺手2049

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

法庭上揭露了一個現實 —— 哪怕沒有 IT 專業知識，也可以利用生成式 AI 製作病毒。被告林某使用“非官方版的 ChatGPT”，創建了對特定文件進行加密並使其無法使用，以及要求支付加密貨幣“比特幣”的程序源代碼。

安全公司“三井物產 Secure Directions”高級惡意軟件分析技術員吉川孝志稱，生成式 AI 設置了不提供非法信息的限制，但網上也存在規避限制的方法。被告在質詢中也表示“查找了解除限制的方法，並使用之”。

吉川孝志指出:“生成式 AI 被惡意利用時，即便沒有知識的人也可能獲取可用於犯罪的信息”，並呼籲加緊採取防止濫用的對策。