加利福尼亚州议会已通过《前沿人工智能模型安全与保障创新法案》（SB 1047）。
该法案在硅谷及其他地区引发了激烈的辩论，旨在对在加利福尼亚州运营的人工智能公司施加一系列安全措施。这些预防措施必须在训练先进基础模型之前实施。
法案的主要要求包括：
- 实施快速和全面的模型关闭机制
- 保护模型免受“训练后不安全修改”的影响
- 建立测试程序，以评估模型或其衍生物造成“重大伤害”的潜在风险
法案的主要作者、参议员斯科特·维纳（Scott Wiener）表示：“我们全年与开源倡导者、Anthropic等合作，努力完善和改进该法案。SB 1047与我们对可预见的人工智能风险的了解相匹配，值得被颁布。”
这位参议员强调，该法案只是要求大型人工智能实验室履行其现有承诺，测试其庞大模型的灾难性安全风险。
然而，提议的立法遭到了来自各方的反对，包括人工智能公司OpenAI和Anthropic、政治家佐伊·洛夫格伦（Zoe Lofgren）和南希·佩洛西（Nancy Pelosi），以及加利福尼亚州商会。批评者认为，该法案过于关注灾难性伤害，可能会对小型开源人工智能开发者产生不成比例的影响。
针对这些担忧，原法案进行了若干修订。这些变化包括：
- 将潜在的刑事处罚替换为民事处罚
- 限制加利福尼亚州检察长的执法权力
- 修改加入法案创建的“前沿模型委员会”的要求
SB 1047的下一步是在州参议院投票，预计将通过。如果发生这种情况，该法案将提交给加州州长加文·纽瑟姆（Gavin Newsom），他将在九月底之前做出是否颁布的决定。
作为美国首个重要的人工智能监管法案，SB 1047的通过可能为未来的立法树立先例。该法案的结果可能对人工智能行业产生深远影响，可能影响加利福尼亚州乃至全国及其他地区先进人工智能模型的开发和部署。
(照片由Josh Hild提供)
想了解更多关于行业领袖的人工智能和大数据信息吗？ 请查看人工智能与大数据博览会，该博览会将在阿姆斯特丹、加利福尼亚和伦敦举行。该综合活动与其他领先活动共同举办，包括智能自动化会议、区块链博览会、数字转型周和网络安全与云博览会。
探索由TechForge提供的其他即将举行的企业技术活动和网络研讨会这里。
