舊金山的 AI 初創公司 Galileo 推出新工具,幫助用戶更好地理解和解釋 AI 大模型的幻覺現象。Galileo Studio 提供實時監測功能,允許用戶評估模型輸入和輸出,並提供新指標和防護措施來優化 LLMs 的性能。Galileo 引入了接地性指標,用於區分幻覺和模型輸出的真實性,以確保模型輸出不會偏離正軌。這些新功能有助於開發人員優化模型並確保輸出的準確性和合規性。