ランダムな文字列がChatGPTの脱獄を招く！無秩序なプロンプトでLLMが脅迫ソフトウェアを瞬時に生成、Jim Fan氏も衝撃

海外のネットユーザーが、ChatGPTでランサムウェアを生成させる、全く新しい脱獄テクニックを発見しました。これは、単語の順番を意図的にめちゃくちゃにすることで、従来の安全フィルターを回避するというものです。

研究者のJim Fan氏は、GPTモデルが順番のめちゃくちゃな単語を理解できることに驚愕しました。このテクニックは、人間の脳が単語の順番がバラバラでも文章を理解できる特性を利用しており、脱獄に成功したことで、大きな注目を集めています。