ビットテクノロジーは自社の大規模モデルに、より頑丈な harness(束縛)を設けようとしている。10月13日、同社のAIモデル部門「Seed」は社内に通知を出し、大規模モデルのセキュリティリスクを専門に管理する新しい部門を設立することを決定した。この新部門は実に重要な存在で、その責任者は中間の階層を経ずに、直接ビットテクノロジーの大規模モデルの「一号人物」である呉永輝氏に報告を行うことになっている。これにより、この出来事の会社内での重要性が明らかだ。

この新部門の名称は「Seed Model - Alignment & Preparedness」とされ、厳林氏が担当する。厳林氏はビットテクノロジーの「Seed」チームの中心的な幹部の一人で、過去数年間、豆包の大規模モデルの「対応」(Alignment)に関する要所を守って来た。ビットテクノロジーは、この部門を設立した理由について、セキュリティと対応の分野においてより多くの投資を行うためだと説明している。「対応」とは、簡単に言えば、モデルが常に人間の真の意図と安全な境界線に沿って行動し、勝手に外れることのないようにすることを意味する。製品の観点から見れば、豆包などのチャットボットの回答の合規性や質、さらには価値観の面でも、その存在を感じることができる。