科学界に汎用言語が登場：アリババがLOGOSモデルをオープンソース化し、極めて効率的な研究方法を再構築

人工知能の研究分野における応用は、新たな転換点に向かって進んでいます。6月18日、アリ・ATH-Token Foundryと中国人民大学高瓴人工知能学院は正式に、LOGOSという名前の多分野科学生成基礎モデルをオープンソース化したことを発表しました。このモデルの登場は、科学界が汎用的な「科学的な文法」を持つようになったことを意味しています。

長年、異なる科学分野の間には深い「言語の壁」がありました。タンパク質、小分子、複雑な材料など、AIにとっては構造が異なり、互換性のないデータの孤島です。これらの科学的対象が「会話」できるようにするために、過去の研究では複雑な3D座標や専門的に設計された幾何ニューラルネットワークに依存していました。これは計算コストが高く、モデルの汎用性が非常に低く、別の研究フェーズになると再び始める必要があります。

LOGOSのコア的な革新は、このような壁を打ち破ったことです。このモデルは、タンパク質、抗体、小分子およびMOF材料などの異種オブジェクトを、統一された離散トークンシーケンスで符号化するための共有辞書を設計しました。これにより、モデルは高価な3D空間情報に依存せず、文字を読むようなシーケンス予測方式を通じて、直接複雑な3D空間相互作用の規則を構築できます。この「科学的な文法」の構築により、異なる学問分野のデータが下位レベルで知識を共有することが可能になりました。

パラメータ効率において、LOGOSは驚くべき性能を示しています。LOGOS-1Bバージョンは、パラメータ量の1/56のみで、マイクロソフトのNatureLMをいくつかの代表的な科学的タスクで上回りました。また、LOGOSはトレーニングと下流タスクとの間の「目的のずれ」問題を完全に解決し、モデルが煩雑な微調整を必要とせずに直接生成能力を活性化でき、研究者の開発の障壁を大幅に低下させました。

現在、LOGOSは7つのモダリティを含み、合計で44.87Bのトークンを備えた超大規模な事前学習語彙を構築しています。プロジェクトチームは、関連するモデルの重み、推論コード、および詳細な技術報告書を全面的にオープンソース化しており、開発者はHuggingFaceまたはGitHubからアクセスして取得できます。