亞馬遜AWS近日推出了一項名爲Amazon EC2 Capacity Blocks的新服務,用戶可以像預訂酒店房間一樣,提前預訂未來一段時間內所需的Nvidia H100 GPU數量,每次預訂時長最長可達14天。該服務可有效緩解機器學習和深度學習項目對高性能GPU的需求壓力。用戶可以按自己的項目計劃和資源需求,彈性調配1至64個GPU實例,每個實例包含8塊Nvidia H100 GPU。在預訂期內,用戶只需爲實際使用的GPU資源時間付費。GPU實例的價格會根據供需關係動態浮動。該服務首先在AWS美國東部地區推出,未來將覆蓋更多區域。業內人士認爲,這種創新式的按需GPU購買方式,能夠有效提高昂貴GPU資源的使用效率,降低AI項目的計算成本。