云天励飞签署16亿算力合作,自研推理卡与大模型研发携手并进
来源:今日热点网 发布时间:2024-06-07 10:57:15

6月6日,云天励飞发布公告,公司与德元方惠签署《AI算力运营合作框架协议》。德元方惠将向云天励飞购买AI训练及推理异构算力服务,总算力规模约4000PFLOPS,该协议预计在未来三年服务期内为云天励飞贡献约16亿的营收。

奠定未来的业绩基础

作为国内领先的人工智能公司,云天励飞一直积极建设算力基座,并且对外提供算力运营服务。今年3月,云天励飞在发布会上公布了“1+3”业务布局,即基于1个算法芯片化平台,打造三大方向业务——AI方案、AI运营、AI产品。本次与德元方惠签署战略合作协议,是公司AI运营业务的一大突破,并在未来3年为公司带来16亿营收,奠定未来的业绩增长基础。

将大模型研发经验注入算力运营服务

去年,云天励飞正式推出自研千亿级大模型“云天天书”。“云天天书”系列模型架构包含通用大模型、行业大模型、场景大模型三个层级。云天励飞基于算法芯片化平台,并通过海量高质量数据预训练生产通用大模型;在通用大模型基础上,引入高质量行业数据,生产行业大模型;再在行业大模型基础上,通过细分场景数据微调研发场景大模型。“云天天书”在C-Eval、CMMLU等权威测试中多次获得第一,并正式通过中央网信办备案。

在大模型研发过程中,公司积累了一系列异构算力组合、算力调优、提升模型训练效率的技术平台和相应工具,包括智能算力集群管理平台、AI大模型开发服务平台等,可提供数据管理、数据标注、模型发布、模型测评等功能模块。云天励飞将上述技术沉淀在AI算力服务中,可帮助客户提升模型训练及算力利用效率,帮助更多企业以更低成本训练大模型。

为自研芯片拓展广阔新天地

今年以来,大模型全面进入应用落地阶段,推理算力需求随之不断增长。根据IDC数据,预计到2026年中国数据中心用于推理的负载将达到62.2%。

云天励飞亦持续看好大模型进入成熟商业化阶段后推理需求,并在推理算力领域进行战略部署。

去年底,公司自研的神经网络处理器NNP400T的DeepEdge 10 正式发布,可广泛应用于AIoT边缘视频、移动机器人等场景,目前已在智慧交通、清洁机器人等领域进行应用。此外,依托创新的D2D chiplet架构打造的推理卡已适配SAM CV大模型、Llama2、通义千问等国内外开源大模型,可承载大模型应用落地的大规模推理计算。

推理算力需求将随着大模型使用时间和用户量的增长而快速增加,因此在大模型进入成熟商业化阶段之后将迎来需求爆发。公司所搭建超大规模异构高性能算力集群将其自研推理卡与高性能训练算力相结合,为客户提供高效的训推一体算力服务,同时为自研推理卡落地打开场景触角,搭建生态,为大模型进入成熟商业化阶段后的推理需求爆发提前布局。

此外,公司也持续投入自研大模型研发及优化工作,预计将维持较高对AI训练及推理异构算力的需求,此次《合作框架协议》项下涉及对于高性能异构算力的采购,未来亦可视需要作为公司大模型研发工作所需算力基础的补充,支撑公司大模型技术的持续进步。

未来,云天励飞亦可在超大规模异构高性能算力集群中,将自研推理卡与高性能训练算力相结合,为自研推理卡落地打开场景触角,搭建生态,为行业带来更丰富的算力服务。


标签:

猜你喜欢

云天励飞签署16亿算力合作,自研推理卡与大模型研

6月6日,云天励飞发布公告,公司与德元方惠签署《AI算力运营合作框架 更多

2024-06-07 10:57:15

Nico App 7周年:轻松交友,年轻人更信任的陌生

自2017年创建以来,Nico App已经深植于众多用户心中,成为备受推崇 更多

2024-06-07 10:49:06

爱乐慕携手中国关工委健体中心,共同推动青少年健

为贯彻落实国家卫生健康委办公厅印发的《健康口腔行动方案(2019—2 更多

2024-06-07 10:08:32

CIC灼识咨询授予东方栀子“栀子花品牌首创者”等

2024年5月21日,东方栀子获得由知名权威咨询机构CIC灼识咨询授予的 更多

2024-06-07 09:55:24

钱大妈荣获CIC灼识咨询“2023年中国社区生鲜连锁

2024年5月24日,钱大妈获得由知名权威咨询机构CIC灼识咨询授予的“2 更多

2024-06-07 10:04:19

圣奥北美基地投产运营 全球布局迈出重要一步

墨西哥当地时间5月29日(北京时间5月30日),圣奥国际(北美)基地 更多

2024-06-07 09:35:08

天府农小二:打通农场至餐桌的桥梁,引领健康生活

随着食品安全意识和健康生活理念的不断普及与深入人心,公众对食品 更多

2024-06-07 09:17:31

农发行温县支行夏粮收购简报

盛夏时节,温县各乡镇田间地头麦浪滚滚、麦香四溢,一派热闹非凡的夏 更多

2024-06-07 09:23:41

京东《端午节消费观察》:端午礼盒搜索增超150%

端午作为四大传统节日之一,在中国人的生活中有着重要的位置,而从节 更多

2024-06-07 09:12:39

PE豪门联合鑫奥林团队开启未来的新篇章

资产管理规模超5万亿的老牌资管巨头Federated Hermes,正在着手筹备在香港设办公室的相关工作,首...更多

2024-06-06 20:33:33