人工知能（AI）の音声カスタマーサービス分野における重要な技術的障害点である「遅延」や「自然ではない会話体験」がついに克服されました。電話AIシステムがリアルタイムでモデルを切り替え、人間のように迅速に対応できるシステムが、Phonely（人工知能電話サポート会社）、Maitai（推論最適化プラットフォーム）、Groq（チップ製造会社）の三社共同の努力により開発されました。これにより、音声AIは「人間のような新しい時代」へと進化しました。

開示された情報によると、この協力により、Phonelyの応答速度は70％以上向上し、AI会話の正確率は81.5％から99.2％に向上しました。これはGPT-4oの基準値94.7％を上回るものです。この成果は、Groqの「ゼロ遅延LoRAホットスワッピング」技術と、Maitaiの動的なオーケストレーションプラットフォームによる複数の微調整済みモデルをシームレスに切り替える能力によるものです。

AIカスタマーサービス AI音声

Groqのチップは言語推論専用に設計されており、そのLPU（Language Processing Unit）、ストリーミングアーキテクチャ、高速オンチップメモリにより、モデルはミリ秒単位で応答できます。「最初の応答トークン時間」は661msから176msに減少し、全体的な完了時間は1,446msから339msに短縮されました。これにより、AI電話は実際の人間とほぼ区別がつかなくなりました。

PhonelyのCEOであるウィル・ボーデス氏は述べています。「我々のシステムでは、70％以上のユーザーがAIか人間かを区別できない状況になっています。遅延はかつて最も顕著な特徴でしたが、現在ではほとんど消えています。」

その結果は非常に印象的です。先月だけで、Phonelyは一つのクライアントに350人の人間のエージェントを置き換える手助けをしました。高速なデプロイメント能力により、企業はAPIを修正せずに一日以内に移行して運用を開始でき、一週間以内にパフォーマンスの改善が見られます。

この協力は、顧客サービス体験の向上だけでなく、企業AIトレンドの変化を象徴しています：「大規模で包括的な」汎用の大規模モデルから、「より速く」「より正確で」「より柔軟な」多モデルの微調整システムへと移行することです。Maitaiの創設者であるクリスチャン・ダルサント氏は述べています。「私たちは、専門モデルで構成される細やかなシステムが企業AIの未来を支配すると信じています。孤立した単一の巨大モデルではなくです。」

企業にとって、これは単なるパフォーマンスの向上ではなく、コスト構造の根本的な変革でもあります。大規模なカスタマーサービスチームのスケジューリング、訓練、管理が不要になり、AIカスタマーサービスはより良い解決策となります。また、GroqとMaitaiが提供する低遅延で高精度のアーキテクチャにより、保険、法律、自動車などの業界での大規模AI導入の障壁が取り除かれました。

この技術的ブレークスルーにより、「不気味の谷」は越えられることが証明されました。Phonely、Groq、Maitaiの協力は、音声AIへの新たな枠組みを提供するだけでなく、伝統的な顧客サポート業界における劇的な変革を予感させます。音声AIの時代は、予想よりも早く到来しました。