英特爾Gaudi2技術在語言模型推理中超越英偉達

英特爾的Gaudi2技術在大規模語言模型推理方面表現出色，與英偉達的AI加速器相媲美。Gaudi2在解碼方面的性能與英偉達H100系統相當，甚至優於英偉達A100。根據公共雲定價，Gaudi2在訓練和推理方面的性價比也超過了英偉達的A100和H100。英特爾計劃於2024年推出Gaudi3技術，將提供更強大的處理能力和網絡帶寬，進一步提升性能。