快好知 kuaihz

字节旗下火山引擎发布大模型训练云平台

4月19日消息,字节跳动旗下云服务平台——火山引擎日前在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,让大模型训练更稳更快。

火山引擎总裁谭待表示,AI大模型有巨大潜力和创新空间,火山引擎会服务客户做好大模型,共同推动各行业的智能化升级。

来源:火山引擎官网

“国内大模型领域的数十家企业,超过七成已经在火山引擎云上”,谭待表示,在大模型及下游应用发展推动下,无论传统企业还是初创企业,对AI算力都有迫切需求,企业使用多家云服务将成为常态。同时,各行业有自己高质量的私有语料,大模型不会一家独大,而是会在千行百业生长,形成多模型共生甚至协作的生态。“未来将是‘多云多模型’的时代”,谭待称。

会上,火山引擎宣布与字节跳动国内业务并池。基于内外统一的云原生基础架构,抖音等业务的空闲计算资源可极速调度给火山引擎客户使用,离线业务资源分钟级调度10万核CPU,在线业务资源也可潮汐复用,弹性计算抢占式实例的价格最高可优惠80%以上。

火山引擎总裁谭待宣布支持“多云多模型”的未来架构(来源:扬子晚报)

谭待表示,国内很多科技公司投入到大模型建设中,不少公司有优秀的技术团队,也有丰富的行业知识和创新想法,但往往缺乏经过大规模场景实践的系统工程能力。火山引擎要做的就是为大模型客户提供高稳定性和高性价比的AI基础设施。

据悉,火山引擎机器学习平台经过抖音等海量用户业务长期打磨,支持单任务万卡级别的超大规模分布式并行训练场景。GPU弹性计算实例可灵活调度资源,随用随取,最高可以为客户节省70%的算力成本。

,

本站资源来自互联网,仅供学习,如有侵权,请通知删除,敬请谅解!
搜索建议:字节  字节词条  火山  火山词条  旗下  旗下词条  模型  模型词条  训练  训练词条  
报道

 叮咚买菜生鲜基地直供占比达85%

2月23日消息,叮咚买菜今日举办2023年供应链生态峰会。会上,叮咚买菜首席商品官(CMO)徐志坚表示,叮咚买菜要打造的是制造型、科技型零售模式,未来继续将清洁...(展开)