【财新网】美国商务部推进前沿AI大模型的监管。9月9日,美国商务部下属的工业与安全局(BIS)发布草拟规则,强制要求美国前沿人工智能开发商和云服务商向美国联邦政府提供详细的报告,说明先进大模型的开发活动、网络安全措施和红队安全测试成果。
红队安全测试调查的是大模型的危险能力,如大模型协助网络攻击的能力,或降低非专家开发化学、生物、放射性或核武器的门槛的能力。自9月11日起,草拟规则将为期30天征求意见。
BIS的上述草拟规则,遵照了美国总统拜登在2023年10月发布的“关于安全、可靠、可信地开发和使用人工智能的行政命令”。行政令要求美国商务部、能源部和国土安全部等部门展开行动,保护美国人免受人工智能(AI)系统的潜在风险。行政令长达上百页,白宫称,这是有史以来在AI领域最全面的行动。(详见财新网报道《白宫发布AI监管令 外国大模型用美国云服务训练须申报》)