【AIbase 報道】IBM 宣佈與芯片初創公司 Groq 達成戰略合作,將其高性能 推理技術集成至 watsonx 平臺,以爲企業客戶提供更快、更具成本效益的人工智能解決方案。此次合作標誌着 IBM 在企業級 AI 加速領域邁出關鍵一步。
通過該合作,IBM 用戶可在 Watsonx Orchestrate 中直接訪問 GroqCloud 服務。Groq 以其自研的 語言處理單元(LPU) 架構著稱,聲稱在特定 AI 推理任務上可比傳統 GPU 系統快 五倍以上,同時顯著降低能耗與成本。
IBM 表示,雙方的技術整合將優先應用於 醫療保健和零售 場景。例如,在醫療領域,系統可同時高效響應數千個患者查詢;在零售行業中,則可用於人力資源與供應鏈的智能自動化。此外,IBM 與 Groq 還計劃將 Red Hat 開源的 vLLM 技術 與 Groq 的 LPU 硬件結合,以增強模型部署靈活性,並讓 GroqCloud 支持 IBM 自研的 Granite 模型。目前,IBM 客戶已可直接使用 GroqCloud 的核心功能。
成立於2016年的 Groq,現已擁有超過 200萬名開發者,定位爲 GPU 的替代方案,也是“美國 AI 堆棧”的重要成員。此次合作不僅將提升 watsonx 的運算性能,更旨在幫助企業客戶將 AI 代理從試點階段擴展至生產環境,覆蓋醫療、金融、政府、零售與製造等對 速度、成本與可靠性 要求極高的行業。