国产芯片加速超节点布局,大模型推理时代算力成本待解(2)
扫一扫
分享文章到微信
扫一扫
关注99科技网微信公众号
阶跃星辰联合近10家芯片及基础设施厂商,共同发起了“模芯生态创新联盟”。首批成员包括华为昇腾、沐曦、壁仞科技、燧原科技、天数智芯、无问芯穹、寒武纪、摩尔线程、硅基流动等。目前,华为昇腾芯片已率先实现了阶跃星辰新一代基础大模型Step 3的搭载和运行,其他联盟厂商的适配工作也在紧锣密鼓地进行中。
华为昇腾910B加速卡也正式上线了由无问芯穹与模速空间联合运营的全国首个“算力生态超市”——模速空间算力生态平台。在大会期间,还举行了模速空间算力生态平台2.0的发布仪式,标志着模速空间、华为昇腾、无问芯穹三方共同开启了“百亿生态共建”合作。无问芯穹联合创始人、CEO夏立雪透露,无穹AI云的底层是一张深度覆盖全国的广域算力网,已覆盖“东数西算”国家战略布局的关键节点,整合了超15种主流芯片架构的异构算力池,总算力规模超过25000P。
在大会期间,还启动了上海首个人工智能终端软硬适配优化中试平台。无问芯穹与上海创智学院、理想汽车、联想集团等多家伙伴共同参与了人工智能终端中试平台的首期建设。对于国产芯片在大模型浪潮下的机遇与挑战,燧原科技创始人赵立东表示,国产AI芯片面临高端芯片制造和生态两大难题。当前正处于高性能推理爆发的时间点,机遇在于大模型和芯片如何深度优化性能并降低成本。
壁仞科技创始人张文也认为,降低大模型的推理成本是一大痛点,同时先进AI芯片的产能对于国内AI的持续健康发展非常关键。中国电信在会上发布了算网一体服务,董事长柯瑞文表示,将打造新一代智算网络,支持用户便捷入算,实现算间高效传输,并通过智能云实现对跨域、异构算力资源的灵活调度。
九章智算云Alaya NeW Cloud发布了其GPU算力服务平台Aladdin,该平台已覆盖全国多数“双一流”高校的AI研究团队,并包含诸多海外高校用户。面对AI能耗的挑战,施耐德电气提出了“算电协同”三层架构及系统化解决方案,并带来了SmartCool 2.0末端空调节能解决方案。中信国际电讯也展示了其在基础设施方面的全球布局,包括近170个网络服务节点、21座云平台等。
投稿邮箱:jiujiukejiwang@163.com 详情访问99科技网:http://www.fun99.cn