根據 Gartner 的最新預測,到2028年,80% 的生成 AI 商業應用將會在現有的數據管理平臺上開發。這一轉變有望降低開發複雜性,並將交付時間縮短50%。

目前,生成 AI 商業應用的開發主要依賴於將大型語言模型(LLMs)與企業內部數據相結合,以及不斷髮展的技術,如向量搜索、元數據管理、提示設計和嵌入技術。然而,若沒有統一的管理方法,企業可能會採用 “分散技術”,導致交付時間延長和成本增加。

AI, 人工智能

圖源備註:圖片由AI生成,圖片授權服務商Midjourney

Gartner 在最近舉行的印度孟買數據與分析峯會上強調了檢索增強生成(RAG)在開發生成 AI 應用中的重要性。RAG 是一種提升生成 AI 模型準確性和可靠性的框架,正在成爲部署生成 AI 應用的基礎。Gartner 指出,RAG 能夠提供 “靈活的實施方式、增強的可解釋性以及與 LLMs 的組合能力”。

Gartner 高級分析師 Prasad Pore 表示,RAG 在多個業務職能中(如銷售、人力資源、IT 和數據管理)有助於流程改進和任務自動化。目前,數據工程師和數據專業人員在開發、測試、部署和維護複雜數據管道和應用程序時面臨諸多挑戰。Pore 指出,傳統的數據管理過程耗時且需要大量人工,而 RAG 的應用可以大大提高生產力,簡化數據治理過程。

此外,Pore 還提到,生成模型如 LLMs 本身是靜態的,僅基於其訓練的數據進行工作,缺乏最新信息。通過 RAG,企業可以將最新的商業或組織特定的數據納入模型中,以提高生成 AI 應用在回答問題、分析日誌和做出決策方面的有效性。

在談到生成 AI 商業應用的類型時,Pore 表示,可以將其分爲三個主要類別:流程改進與自動化(如企業知識管理和文檔處理自動化)、用戶體驗(如客戶支持自動化和個性化購物體驗)以及洞察與預測(如對話式商業智能和數據發現)。

在構建和部署生成 AI 應用時,Gartner 建議企業考慮以下幾點:首先,評估現有數據管理平臺是否可以轉變爲 RAG 即服務的平臺;其次,將 RAG 作爲優先事項,整合來自現有數據管理系統的向量搜索、圖形和分塊等技術;最後,利用元數據和操作數據以保護知識產權、解決隱私問題,並防範惡意使用。

劃重點:

🌟 預計到2028年,80% 的生成 AI 商業應用將在現有數據管理平臺上開發,交付時間縮短50%。

🚀 檢索增強生成(RAG)將成爲開發生成 AI 應用的重要基礎,提供靈活性和可解釋性。

🔍 Gartner 建議企業評估現有平臺的轉型潛力,整合 RAG 技術並利用元數據保護安全。