财新传媒
财新传媒
1111111
财新通行证
T中

Arm:开源模型增加算力需求 软件生态是关键|巴展一线

文|财新 刘沛林 发自西班牙巴塞罗那
2025年03月07日 21:03
Arm认为,端侧的模型推理需求将带动AI算力需求指数级增长
news 原图 资料图:Mohamed Awad。

  【财新网】DeepSeek等开源模型出现带动推理算力需求,短期内模型训练仍需要更多算力,而长远来看,大部分算力将用于模型推理而不是训练,这将进一步推动对算力的需求,”当地时间3月4日,英国芯片架构企业Arm的高级副总裁兼基础设施事业部总经理 Mohamed Awad在巴塞罗那通信展期间接受财新专访时称。

  Mohamed Awad指出,未来AI模型的推理将发生在包括云端和手机、汽车等几乎每一个智能终端设备上,端侧的模型推理需求将带动AI算力需求指数级增长,而Arm架构的芯片软件开发生态统一是其最大优势,这意味着开发者只需要开发一套软件就可以在从云端到边端的设备上运行。

责任编辑:屈运栩 | 版面编辑:鲍琦

财新网所刊载内容之知识产权为财新传媒及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。

如有意愿转载,请发邮件至hello@caixin.com,获得书面确认及授权后,方可转载。

推荐阅读
财新移动
说说你的看法...
分享
取消
发送
注册
 分享成功

订阅财新网主编精选版电邮>>