全球對AI應用的需求快速增長,進一步帶動 GPU 算力訂閱及租用服務的市場熱潮。數位通國際(以下簡稱數位通)雲端事業處總經理黃維修觀察到有幾大原因促成這一趨勢。首先,企業在積極發展 AI 應用的過程中,連帶需要佈建 GPU 算力,其次全球企業群起擁抱 AI 並爭搶運算資源,導致 GPU 奇貨可居,企業有錢買不到或漫長等待,使建置成本與門檻越來越高,故而以租代買。再者 GPU 伺服器對資料中心的基礎設施要求更為嚴苛,不論散熱系統、電力供應、樓板承重甚至網路傳輸,皆與傳統伺服器不同,形成另一道高聳門檻。
在前述因素驅動下,許多企業轉而租用 GPU 算力服務以降低初期投入的壓力。為此,數位通順勢而為推出「GWS AI Cloud」虛擬 GPU 算力平台訂閱方案,以滿足中小規模的企業需求。
深耕雲端與資料中心,為 GPU 算力服務鋪設高效之路
黃維修強調,數位通經營資料中心與雲端服務累積多年深厚的經驗,擅於維運高效穩定的機房和雲平台,GPU 算力為其專業能力延伸的加值服務。更重要的是,數位通資料中心承載亞洲大型網路交換中心,擁有豐沛網路與頻寬資源,得以提供高品質網路服務,穩定支撐 GPU 運算或 AI 應用運行。
再者數位通已針對政府、教育或眾多產業,開發多元的雲服務,所以不僅能為 GWS AI Cloud 用戶提供 GPU 算力,也能一併滿足諸如資安防護等其他層面的多樣化需求。
可租用 0.25 至多片 GPU,從小處起步撙節開銷
GWS AI Cloud 以 NVIDIA H100 為租賃標的,足以順應大型語言模型(LLM)、機器學習(ML)訓練的高效需求。平台提供簡便的圖形化管理介面,打破傳統 AI/ML 訓練工具常見的命令列操作,並將多種訓練與推論環境內建其中,顯著降低用戶的建置與使用門檻;甚至可因應用戶的特殊需要,提供客製化工具和環境。
另一大亮點在於算力供應方式極具彈性,黃維修表示,市場上大多數租賃方案以整片為單位,以致於成本不菲。反觀 GWS AI Cloud 可以從 0.25 片、0.5 片到 1 至 2 片以上等多種選項,用戶可依其專案需求選擇租用的規模與時間。舉例來說,如選擇 0.5 片租 6 個月,在期間內隨時靈活調度、用好用滿,若算力規模不夠,則可隨時追加,彈性甚大。
延伸 MSP 角色,助力客製化需求提供完整解決方案
此外,數位通也可協助客戶打造客製化安全架構,近期的案例便是協助數發部數位產業署建置一套專屬 GPU 算力池於數位通資料中心,該案例需要零信任架構、DDoS 防禦、雙因子認證等多項資安需求,數位通不僅滿足了所有要求,還確保系統的高效穩定運行。
總括來說,數位通多年在雲服務領域深耕,憑藉過往累積的能量,能與 GWS AI Cloud 完美加乘,讓用戶在執行 AI 分析或建模之餘,還可一併啟用資料備份、資安防護、災難備援…等多元服務。甚至比照數發部模式,以 MSP 角色,協助政府機構、學研或企業單位,設計、規劃、驗證、測試、建置及維運管理私有 GPU 算力池,用戶可選擇運行於數位通資料中心或其他適合的資料中心,靈活應對各種需求。