Groq在最新一輪融資中成功募集6.4億美元，由全球最大資產管理公司BlackRock Inc.的基金領投，同時獲得了科技巨頭思科和韓國電子巨擘三星投資部門的鼎力支持。

這輪融資讓Groq的估值一舉飆升至28億美元，彰顯了投資者對其技術和發展前景的高度認可。Groq的崛起，無疑給長期獨霸AI芯片市場的英偉達帶來了一記強有力的挑戰。

更令業界矚目的是，Groq近日宣佈，享譽全球的人工智能先驅、圖靈獎得主Yann LeCun即將加入公司擔任技術顧問。LeCun的加盟無疑爲Groq在競爭激烈的芯片領域增添了一大助力，也彰顯了公司在技術創新上的雄心。

然而，挑戰英偉達的道路並非坦途。有分析師指出，儘管Groq展現出巨大潛力，但要真正撼動英偉達的市場地位，仍需在產品成熟度、生態系統建設、以及大規模商業化等方面經受考驗。

此前，Groq推出了一項令業界矚目的新功能:用戶可直接在其網站上使用大型語言模型（LLMs），進行近乎即時的查詢和各種複雜任務。

QQ截圖20240806142246.jpg

據悉，Groq於上週悄無聲息地上線了這項服務。根據實測，Groq的回覆速度達到了驚人的每秒約1256.54個token，幾乎可以說是即時響應。這一數據較該公司4月份展示的每秒800個token又有顯著提升，展現了其技術的快速進步。

Groq的CEO Jonathan Ross在接受採訪時表示:"我們的技術將徹底改變人們使用LLMs的方式。一旦體驗到這種前所未有的速度，用戶就會意識到LLMs的無限可能。"

目前，Groq網站默認使用Meta開源的Llama3-8b-8192模型，同時還支持更強大的Llama3-70b以及來自Google的Gemma和Mistral的部分模型。Ross透露，未來將進一步擴大支持的模型範圍，以滿足不同用戶的需求。

在實際體驗中發現，Groq不僅在速度上令人驚歎，其功能的多樣性和靈活性同樣出色。無論是生成職位描述、撰寫文章，還是進行即時修改，都能以令人瞠目結舌的速度完成。更值得一提的是，Groq還支持語音輸入功能，採用了OpenAI最新的Whisper Large V3模型進行語音識別和翻譯。

業內專家指出，Groq之所以能夠實現如此高效的性能，很大程度上歸功於其自主研發的語言處理單元（LPU）。與傳統的GPU相比，LPU在處理LLM任務時表現出更高的效率和更低的能耗。據Groq方面透露，其技術在大多數工作負載下的能耗僅爲GPU的十分之一，這一數據無疑對當前GPU主導的AI計算格局提出了嚴峻挑戰。自16周前服務推出以來，Groq已吸引了超過28.2萬名開發者。公司還貼心地爲原本在OpenAI平臺上開發的應用程序提供了便捷的遷移途徑，進一步降低了開發者的使用門檻。

面對如此亮眼的表現，業界不禁要問:Groq是否真的能撼動現有AI巨頭的地位?對此，Ross表現出了十足的信心。他大膽預測，到明年，全球超過一半的推理計算將在Groq的芯片上進行。

然而，也有分析師持謹慎態度。他們指出，儘管Groq在技術上展現出巨大潛力，但要真正挑戰已建立的行業巨頭，仍面臨諸多挑戰，包括市場認知度、生態系統建設、以及大規模商業化等方面的考驗。

無論如何，Groq的橫空出世無疑爲AI行業注入了新的活力。在即將舉行的VentureBeat2024Transform大會上，Ross將作爲開場演講嘉賓，屆時或將揭曉更多關於Groq的未來計劃。

隨着AI技術的日新月異，Groq的創新無疑爲整個行業帶來了新的可能性。它不僅展示了LLM應用的廣闊前景，更爲AI的普及和高效部署指明瞭新的方向。我們有理由期待，在不久的將來，AI技術將以更快的速度、更低的成本、更高的效率融入我們的日常生活和工作中。