月の暗い面がUCLAと共同で新しいMixture-of-Expertモデルを推進し、言語モデルのトレーニング効率を向上させる

AIbase基地

AIニュースで公開 · 1 分読む · Jul 20, 2025

人工知能分野では、大型言語モデル（LLMs）のトレーニングが技術進歩を推進する重要な方向性となっています。しかし、モデルの規模とデータセットの拡大に伴い、従来の最適化手法—特にAdamW—がその限界を次第に露呈しています。研究者たちは計算コストの高さやトレーニングの不安定さなど、一連の課題に直面しています。これには、勾配の消失や爆発、パラメータ行列の更新不整合、分散環境下でのリソース要求の高さなどがあります。したがって、これらの複雑性に対処するために、より効率的で安定した最適化技術の必要性が高まっています。

Grok 3の音声機能が正式にリリース：10種類のモードをサポートし、18禁オプションも含まれる

イーロン・マスクのxAIが、自社のAIチャットボットGrok3の音声機能を正式に発表しました。この期待されていた機能は、Grokアプリケーションを通じてユーザーに開放されており、現在英語でのインタラクションをサポートしています。Xプラットフォームの最新情報によると、ユーザーはGrokアプリを更新するだけで、画面右上の「新しい対話」ボタンの横に新しい音声アイコンを見つけてクリックすることで、この新しい機能を体験できます。xAIによれば、Grok3の音声機能は最大10種類の異なるモードを提供しており、その中に2つの18禁とラベル付けされたモードが含まれています。

DeepSeekオープンソースウィーク初日：大規模モデル加速ツールFlashMLAのデコーディング性能が3000GB/sに達する

DeepSeekオープンソースウィーク初日に最新の技術成果FlashMLAを正式にオープンソース化しました。これはNVIDIA Hopperアーキテクチャ向けに特別に設計された高効率のマルチレイヤーアテンション（Multi-Layer Attention）デコードカーネルです。この技術は特に可変長シーケンスシナリオに最適化されており、大規模モデルの推論性能を大幅に向上させることができます。FlashMLAの核心技術特性にはBF16精度の全面サポートと、ブロックサイズ64のページングキー・バリューキャッシュ（Paged KV）が含まれています。

Grok 3がリアルタイム音声機能を発表、合計10種類のモードをサポート

最近、xAIが開発したGrok APPがリアルタイム音声モードをリリースし、10種類のモードをサポートしています。ユーザーは音声を使ってAIと対話することができ、利用体験をさらに向上させます。しかし、あるXプラットフォームのユーザーがこのアプリに新たに追加されたUnhingedモードとセクシーモードについて発見し、広く注目を集めました。ユーザーの説明によれば、Unhingedモードは「ずっと反撃してくる」挑発的な議論が得意であり、セクシーモードは「いきなり誘惑してくる」ロマンチックまたは性的な暗示があるとのことです。ユーザーは投稿の中で「老馬は兄弟たちを理解している」と感慨深く述べています。

LiblibAI（リブリブAI）が数億円の資金調達を再発表一年以内に連続して4ラウンドの資金調達を完了

2月24日、LiblibAI（リブリブAI）は短期間のうちに連続して4ラウンドの資金調達を完了し、国内のAIアプリケーション分野における資金調達の速度に新記録を樹立した。2024年7月に公開された数億円の資金調達に続き、LiblibAIは再び数億円の資金を獲得しました。最新の2ラウンドの資金調達は、渶策資本と順為資本がリードし、明勢創投などの既存出資者も超過投資を行いました。

資金調達のスピードが「破格」！LiblibAIが再び数億の投資を獲得、1年で4回の資金調達を実現しAIアプリケーション分野でリード

国内のAIアプリケーション分野に新たな大型資金調達事件が登場！AIコンテンツ制作プラットフォームLiblibAI（リブリブAI）が本日正式に発表しました。驚くべきことに、短い1年の間に連続して4回の資金調達を完了し、国内AIアプリケーション分野において前例のない資金調達のスピード記録を樹立しました。2024年7月に数億の資金調達を発表した後、LiblibAIは再び数億の巨額資金を獲得し、成長勢いは引き続き強力で、業界からの高度な関心を引き起こしています。

Meta AIが新しいビデオ学習モデルV-JEPAを発表：ビデオ理解の新たなブレークスルー

最近、Meta AIチームはビデオ共同埋め込み予測アーキテクチャ（V-JEPA）モデルを発表しました。この革新的な取り組みは、機械知能の発展を促進することを目的としています。人間は視覚信号からの情報を自然に処理し、周囲の物体や動きのパターンを認識することができます。機械学習の重要な目標の一つは、人間が無監督学習を行う根本的な原理を明らかにすることです。研究者たちは、連続する感覚入力の表現が互いに予測可能であるべきだという重要な仮説を提案しました。初期の研究方法は、遅い特徴分析を通じて行われました。