财新传媒
财新传媒
1111111
财新通行证
T中

GPT革命|美国商务部推出先进AI大模型监管草案 开发者须每三个月报备

文|财新 杜知航
2024年09月10日 09:13
BIS称,美国政府必须准备好采取行动,确保美国公司生产的军民两用基础模型可供国防工业使用
news 原图 美国商务部大楼。9月9日,美国商务部下属的工业与安全局(BIS)发布草拟规则,强制要求美国前沿人工智能开发商和云服务商向美国联邦政府提供详细的报告,说明先进大模型的开发活动、网络安全措施和红队安全测试成果。图:视觉中国

  【财新网】美国商务部推进前沿AI大模型的监管。9月9日,美国商务部下属的工业与安全局(BIS)发布草拟规则,强制要求美国前沿人工智能开发商和云服务商向美国联邦政府提供详细的报告,说明先进大模型的开发活动、网络安全措施和红队安全测试成果。

  红队安全测试调查的是大模型的危险能力,如大模型协助网络攻击的能力,或降低非专家开发化学、生物、放射性或核武器的门槛的能力。自9月11日起,草拟规则将为期30天征求意见。

  BIS的上述草拟规则,遵照了美国总统拜登在2023年10月发布的“关于安全、可靠、可信地开发和使用人工智能的行政命令”。行政令要求美国商务部、能源部和国土安全部等部门展开行动,保护美国人免受人工智能(AI)系统的潜在风险。行政令长达上百页,白宫称,这是有史以来在AI领域最全面的行动。(详见财新网报道《白宫发布AI监管令 外国大模型用美国云服务训练须申报》)

责任编辑:屈运栩 | 版面编辑:边放

财新网所刊载内容之知识产权为财新传媒及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。

如有意愿转载,请发邮件至hello@caixin.com,获得书面确认及授权后,方可转载。

推荐阅读
财新移动
说说你的看法...
分享
取消
发送
注册
 分享成功

订阅财新网主编精选版电邮>>