高通公司正式发布了其新一代人工智能芯片 ——AI200和 AI250,这一举措旨在挑战市场领先者英伟达。此次发布会引起了广泛关注,公司的股价随之上涨超过20%。

高通 AI200芯片是一款专为机架级 AI 推理设计的解决方案,其目标在于降低总体拥有成本(TCO)并提升性能。该芯片支持768GB 的 LPDDR 内存,这样的内存容量和更低的成本为大型语言模型(LLM)和多模态模型(LMM)的推理提供了强大支持。

高通 (4)

与此相对,高通的 AI250则采用了近内存计算(near-memory computing)的创新架构,这种架构使其能够提供超过10倍的内存带宽,同时显著降低功耗,提升 AI 推理任务的效率与性能。两款芯片均配备了直接液冷技术,以增强散热效果。

在硬件之外,高通还推出了一个全面的 AI 软件栈,涵盖了从应用层到系统软件层的所有内容,专为 AI 推理进行了优化。开发者可以通过高通的 Efficient Transformers Library 和 AI 推理套件,轻松实现模型的部署和管理。该软件栈支持众多主流机器学习框架和推理引擎,为 AI 应用的开发提供了丰富的工具、库和 API。

预计高通的 AI200和 AI250将在2026年和2027年正式商用。此次发布不仅展示了高通在 AI 领域的雄心,也引发了市场的高度关注。

划重点:  

🌟 高通发布 AI200和 AI250芯片,挑战市场领导者英伟达。  

📈 高通股价因发布新芯片大涨超过20%。  

🖥️ 新芯片采用液冷技术,并支持多种 AI 推理应用和工具。