谷歌開源輕量級語言模型Gemina 2：提升AI性能、速度和可訪問性

谷歌推出了 Gemma2，這是其開源輕量級語言模型的最新版本，提供90億（9B）和270億 (27B) 參數大小。與前身 Gemma 模型相比，這個新版本承諾增強性能和更快的推理速度。

產品入口：https://top.aibase.com/tool/google-gemma-2

Gemma2源自 Google 的 Gemini 模型，旨在讓研究人員和開發人員更容易訪問，從而大幅提高速度和效率。與多模態和多語言的 Gemini 模型不同，Gemma2只專注於語言處理。

Gemma2不僅在性能上優於 Gemma1，而且與兩倍於其尺寸的型號有效競爭。它旨在跨各種硬件設置高效運行，包括筆記本電腦、臺式機、IoT 設備和移動平臺。Gemma2專門針對單個 GPU 和 TPU 進行了優化，提高了其前身的效率，尤其是在資源受限的設備上。例如，27B 型號擅長在單個 NVIDIA H100Tensor Core GPU 或 TPU 主機上運行推理，對於需要高性能而無需大量投資硬件的開發人員來說，它是一種經濟高效的選擇。

此外，Gemma2還爲開發人員提供了跨各種平臺和工具的增強調優功能。無論是使用 Google Cloud 等基於雲的解決方案，還是使用 Axolotl 等流行平臺，Gemma2都提供了廣泛的微調選項。與 Hugging Face、NVIDIA TensorRT-LLM 以及 Google 的 JAX 和 Keras 等平臺集成，使研究人員和開發人員能夠在各種硬件配置中實現最佳性能和高效部署。

在比較 Gemma2和 Llama370B 時，這兩個模型在開源語言模型類別中都脫穎而出。谷歌研究人員聲稱，儘管尺寸要小得多，但 Gemma227B 的性能可與 Llama370B 相媲美。此外，Gemma29B 在語言理解、編碼和解決數學問題等各種基準測試中始終優於 Llama38B。

與 Meta 的 Llama3相比，Gemma2的一個顯着優勢是它對印度語言的處理。Gemma2因其分詞器而出類拔萃，該分詞器專爲這些語言設計，幷包含大量256k 個令牌以捕捉語言的細微差別。另一方面，儘管 Llama3支持多種語言，但由於詞彙量和訓練數據有限，在印度語腳本的標記化方面遇到了困難。這使得 Gemma2在涉及印度語的任務中具有優勢，使其成爲在這些領域工作的開發人員和研究人員的更好選擇。

Gemini2的實際用例包括多語言助手、教育工具、編碼協助和RAG系統。儘管Gemini2展示了顯着進步，但仍面臨着訓練數據質量、多語言能力和準確性等挑戰。