根據 Gartner 的最新預測，到2028年，80% 的生成 AI 商業應用將會在現有的數據管理平臺上開發。這一轉變有望降低開發複雜性，並將交付時間縮短50%。

目前，生成 AI 商業應用的開發主要依賴於將大型語言模型（LLMs）與企業內部數據相結合，以及不斷髮展的技術，如向量搜索、元數據管理、提示設計和嵌入技術。然而，若沒有統一的管理方法，企業可能會採用 “分散技術”，導致交付時間延長和成本增加。

AI， 人工智能

圖源備註:圖片由AI生成，圖片授權服務商Midjourney

Gartner 在最近舉行的印度孟買數據與分析峯會上強調了檢索增強生成（RAG）在開發生成 AI 應用中的重要性。RAG 是一種提升生成 AI 模型準確性和可靠性的框架，正在成爲部署生成 AI 應用的基礎。Gartner 指出，RAG 能夠提供 “靈活的實施方式、增強的可解釋性以及與 LLMs 的組合能力”。

Gartner 高級分析師 Prasad Pore 表示，RAG 在多個業務職能中（如銷售、人力資源、IT 和數據管理）有助於流程改進和任務自動化。目前，數據工程師和數據專業人員在開發、測試、部署和維護複雜數據管道和應用程序時面臨諸多挑戰。Pore 指出，傳統的數據管理過程耗時且需要大量人工，而 RAG 的應用可以大大提高生產力，簡化數據治理過程。

此外，Pore 還提到，生成模型如 LLMs 本身是靜態的，僅基於其訓練的數據進行工作，缺乏最新信息。通過 RAG，企業可以將最新的商業或組織特定的數據納入模型中，以提高生成 AI 應用在回答問題、分析日誌和做出決策方面的有效性。

在談到生成 AI 商業應用的類型時，Pore 表示，可以將其分爲三個主要類別:流程改進與自動化（如企業知識管理和文檔處理自動化）、用戶體驗(如客戶支持自動化和個性化購物體驗)以及洞察與預測(如對話式商業智能和數據發現)。

在構建和部署生成 AI 應用時，Gartner 建議企業考慮以下幾點:首先，評估現有數據管理平臺是否可以轉變爲 RAG 即服務的平臺;其次，將 RAG 作爲優先事項，整合來自現有數據管理系統的向量搜索、圖形和分塊等技術;最後，利用元數據和操作數據以保護知識產權、解決隱私問題，並防範惡意使用。

劃重點:

🌟 預計到2028年，80% 的生成 AI 商業應用將在現有數據管理平臺上開發，交付時間縮短50%。

🚀 檢索增強生成（RAG）將成爲開發生成 AI 應用的重要基礎，提供靈活性和可解釋性。

🔍 Gartner 建議企業評估現有平臺的轉型潛力，整合 RAG 技術並利用元數據保護安全。