财新传媒
财新传媒
1111111
财新通行证
科技

AI·研究院|中科院曾毅:很多企业对AI安全风险视而不见

2019年11月01日 14:12
T中
曾毅强调禁用技术并不能解决风险问题,建议国家建立人工智能监管平台,呼吁人工智能从业者要有红线意识

  【财新网】(记者 叶展旗)在人工智能(AI)发展过程中,真正的风险并不是人们想象的超级智能,而是现已涌现的安全、伦理问题。10月31日,在2019北京智源大会上,中国科学院自动化研究所研究员曾毅接受财新等采访时表示,实际上很多企业对存在的风险视而不见,人工智能的健康发展,一定是治理和发展双轮驱动,要保证它向着正确的方向发展。

  曾毅举例称,当用对抗神经网络生成一个乌龟的3D模型,谷歌的分类系统就有80%的几率,把这个乌龟的模型识别成来福枪,另外20%的几率识别为其它的东西,但也绝对不会是乌龟。这也就是说,系统没有一次能把3D乌龟模型成功识别出来。因为对抗神经网络改变了3D乌龟模型的局部纹理,使得基于统计意义的分类系统,没有办法把它识别出来。

责任编辑:屈运栩
版面编辑:张柘

财新网所刊载内容之知识产权为财新传媒及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。

如有意愿转载,请发邮件至hello@caixin.com,获得书面确认及授权后,方可转载。

推荐阅读
财新移动
说说你的看法...
分享
取消
发送
注册
 分享成功