数位通推创新 GPU 算力订阅服务,降低 AI/LLM 训练门坎

数位通推创新 GPU 算力订阅服务,降低 AI/LLM 训练门槛

全球对AI应用的需求快速增长,进一步带动 GPU 算力订阅及租用服务的市场热潮。数位通国际(以下简称数位通)云端事业处总经理黄维修观察到有几大原因促成这一趋势。首先,企业在积极发展 AI 应用的过程中,连带需要布建 GPU 算力,其次全球企业群起拥抱 AI 并争抢运算资源,导致 GPU 奇货可居,企业有钱买不到或漫长等待,使建置成本与门坎越来越高,故而以租代买。再者 GPU 服务器对数据中心的基础设施要求更为严苛,不论散热系统、电力供应、楼板承重甚至网络传输,皆与传统服务器不同,形成另一道高耸门坎。

在前述因素驱动下,许多企业转而租用 GPU 算力服务以降低初期投入的压力。为此,数位通顺势而为推出「GWS AI Cloud」虚拟 GPU 算力平台订阅方案,以满足中小规模的企业需求。

深耕云端与数据中心,为 GPU 算力服务铺设高效之路

黄维修强调,数位通经营数据中心与云端服务累积多年深厚的经验,擅于维运高效稳定的机房和云平台,GPU 算力为其专业能力延伸的加值服务。更重要的是,数位通数据中心承载亚洲大型网络交换中心,拥有丰沛网络与带宽资源,得以提供高质量网络服务,稳定支撑 GPU 运算或 AI 应用运行。

再者数位通已针对政府、教育或众多产业,开发多元的云服务,所以不仅能为 GWS AI Cloud 用户提供 GPU 算力,也能一并满足诸如资安防护等其他层面的多样化需求。

可租用 0.25 至多片 GPU,从小处起步撙节开销

GWS AI Cloud 以 NVIDIA H100 为租赁目标,足以顺应大型语言模型(LLM)、机器学习(ML)训练的高效需求。平台提供简便的图形化管理接口,打破传统 AI/ML 训练工具常见的命令行操作,并将多种训练与推论环境内建其中,显著降低用户的建置与使用门坎;甚至可因应用户的特殊需要,提供客制化工具和环境。

另一大亮点在于算力供应方式极具弹性,黄维修表示,市场上大多数租赁方案以整片为单位,以致于成本不菲。反观 GWS AI Cloud 可以从 0.25 片、0.5 片到 1 至 2 片以上等多种选项,用户可依其项目需求选择租用的规模与时间。举例来说,如选择 0.5 片租 6 个月,在期间内随时灵活调度、用好用满,若算力规模不够,则可随时追加,弹性甚大。

延伸 MSP 角色,助力客制化需求提供完整解决方案

此外,数位通也可协助客户打造客制化安全架构,近期的案例便是协助数发部数字产业署建置一套专属 GPU 算力池于数位通数据中心,该案例需要零信任架构、DDoS 防御、双因子认证等多项资安需求,数位通不仅满足了所有要求,还确保系统的高效稳定运行。

总括来说,数位通多年在云服务领域深耕,凭借过往累积的能量,能与 GWS AI Cloud 完美加乘,让用户在执行 AI 分析或建模之余,还可一并启用数据备份、资安防护、灾难备援…等多元服务。甚至比照数发部模式,以 MSP 角色,协助政府机构、学研或企业单位,设计、规划、验证、测试、建置及维运管理私有 GPU 算力池,用户可选择运行于数位通数据中心或其他适合的数据中心,灵活应对各种需求。