财新传媒
财新传媒
1111111
财新通行证
T中

GPT革命|院士郑纬民:构建国产人工智能万卡系统很难但很有必要

文|财新 覃敏
2024年04月28日 18:41
中国工程院院士郑纬民认为,改善国产AI平台的生态系统,不是很抽象的事情,就是要做好10个软件
news 原图 资料图:郑纬民。图:视觉中国

  【财新网】“国外的算力获取难,构建基于国产AI卡的万卡大模型训练平台迫不及待,很有必要。”4月28日上午,中国工程院院士郑纬民在“2024中国移动算力网络大会”上表示,构建国产万卡系统很难,也存在很多问题,但这是必须要做的事情,“只要我们努力,与芯片等硬件公司协作,一定能把它做好。”

  近两年,人工智能算力爆发性增长。为什么算力需求这么大?郑纬民介绍,算力存在于大模型生命周期的每一环,模型研发进行大量尝试需要配套算力,研发部门需要长期使用GPU资源;模型训练需要海量算力,比如训练GPT4就需要1万张A100训练11个月;而精调垂直领域模型需要可控算力,模型推理也需要可靠算力。

责任编辑:屈运栩 | 版面编辑:肖子何

财新网所刊载内容之知识产权为财新传媒及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。

如有意愿转载,请发邮件至hello@caixin.com,获得书面确认及授权后,方可转载。

推荐阅读
财新移动
说说你的看法...
分享
取消
发送
注册
 分享成功

订阅财新网主编精选版电邮>>