谷歌正式發佈全新Web端AI推理加速庫LiteRT.js。該庫採用WebAssembly技術，並深度結合WebGPU與WebNN等硬件加速能力，旨在替代TensorFlow.js所使用的傳統JavaScript內核方案，大幅提升瀏覽器中人工智能與機器學習工作負載的運行速度。

image.png

WebAssembly是一種二進制指令格式，能讓網頁在瀏覽器中以接近本地代碼的速度執行高性能計算。TensorFlow.js則是谷歌此前開發的經典庫，支持開發者將基於TensorFlow構建的模型直接部署到Web瀏覽器中，實現客戶端AI功能。此次推出的LiteRT.js正是在這一基礎上進行的架構升級。

實測提速 3 倍，老舊設備也有用武之地

谷歌在搭載M4 芯片的 2024 款蘋果MacBook Pro筆記本上進行了實測，結果顯示，相比現有方案，LiteRT.js的推理速度最高提升 3 倍。不過谷歌也坦誠表示，在運行舊硬件或使用不同引擎的瀏覽器時，實際性能表現可能存在一定差異。

從技術路線來看，谷歌正推動Web端AI推理從純JavaScript時代邁向WebAssembly加硬件加速的新階段。當瀏覽器跑AI模型的速度逐步逼近原生應用水平，無需安裝客戶端、打開網頁即可使用AI功能的體驗將更加流暢，這對端側AI的普及無疑是一針強心劑。