加州州长否决人工智能安全法案
加州州长加文·纽瑟姆（Gavin Newsom）周日否决了一项备受争议的人工智能安全法案，此前科技行业提出反对意见，称该法案可能导致人工智能公司离开加州并阻碍创新。
纽瑟姆表示，他已要求生成式人工智能领域的领先专家帮助加州“制定可行的保障措施”，重点是“开展基于经验和科学的轨迹分析”。他还命令州政府机构扩大对与人工智能使用相关的潜在灾难性事件风险的评估。
生成式人工智能能够根据开放式提示创建文本、照片和视频，这既引发了兴奋，也引发了担忧，担心它可能使一些工作过时、颠覆选举，并可能超越人类并产生灾难性影响。
该法案的作者、民主党州参议员斯科特·维纳（Scott Wiener）表示，在人工智能的发展变得难以驾驭或无法控制之前，立法对于保护公众是必要的。人工智能行业在加州发展迅速，一些领导人质疑，如果该法案成为法律，这些公司在该州的未来。
维纳周日表示，否决使加州变得不那么安全，并意味着“旨在创造极其强大技术的公司没有任何具有约束力的限制。”他补充说“行业的自愿承诺不可执行，对公众来说很少有好结果。”
纽瑟姆表示：“我们不能等到发生重大灾难才采取行动保护公众。”但他补充说，他不同意“我们必须接受一个没有基于人工智能系统和能力的经验轨迹分析的解决方案。”
纽瑟姆表示，他将在下一届会议期间与立法机构就人工智能立法开展合作。此时，美国国会制定保障措施的立法停滞不前，拜登政府正在推进监管人工智能监督提案。
纽瑟姆称“加州单独采取措施可能是有必要的——尤其是在国会没有联邦行动的情况下。”
科技行业联盟“进步商会”称赞纽瑟姆的否决，称“加州的科技经济一直因竞争和开放而繁荣。”
该法案原本将要求对许多开发成本超过 1 亿美元或需要一定计算能力的最先进人工智能模型进行安全测试。在该州运营的人工智能软件开发商还需要概述关闭人工智能模型的方法，即有效的“终止开关”。
该法案原本将建立一个州实体来监督开发所谓的“前沿模型”，这些模型超过了现有最先进模型的能力。
该法案面临来自众多团体的强烈反对。正在开发生成式人工智能模型的 Alphabet 的谷歌、微软支持的 OpenAI 和 Meta Platforms 都对该提案表示了担忧。
美国国会的一些民主党人，包括众议员南希·佩洛西（Nancy Pelosi）也反对。支持者包括特斯拉首席执行官埃隆·马斯克，他还经营着一家名为 xAI 的人工智能公司。亚马逊支持的 Anthropic 表示，该法案的好处可能大于成本，但它补充说仍有一些方面看起来令人担忧或不明确。
纽瑟姆另外签署了一项立法，要求该州评估生成式人工智能对加州关键基础设施构成的潜在威胁。
纽瑟姆称，该州正在分析能源基础设施风险，此前召集了电力部门供应商，明年将与水利基础设施供应商进行同样的风险评估，之后是通信部门。
原创文章，作者：讯知在线，如若转载，请注明出处：http://mip.xzxci.cn/2024/09/30/2733.shtml
