谷歌框架是翻墙吗
【新智元导读】喜大普奔!加州州长宣布:否决加州AI限制法案。LeCun李飞飞吴恩达激动地奔走相告谷歌框架是翻墙吗,额手称庆。而强烈支持法案的Bengio和Hinton则对此保持沉默。OpenAI、谷歌、Meta纷纷逃过大劫。
对于全世界开发者们来说,SB-1047法案取消,意味着Meta、谷歌等大厂的开源模型,再次继续可用。
这个决定可谓是众望所归。AI圈大佬们激动地奔走相告,在否决中出了大力的吴恩达、LeCun、李飞飞,则尤其开心。
「臭名昭著」的SB-1047规定,SB 1047将会通过追究开发者的责任,来防止AI系统造成大规模人员伤亡,或引发损失超过5亿美元的网络安全事件。
要知道,全球50家顶尖GenAI企业,有32家便扎根在加州,它们在定义AI未来起着关键作用。
加州办公室新闻稿中介绍,过去一个月里,Gavin签署了18个GenAI法案,却唯独否决了SB-1047。
在过去30天里,州长签署了一系列法案,以打击Deepfake内容,以及保护表演者的数字肖像权等等
SB-1047没有考虑到AI系统是否部署在高风险环境中、是否涉及关键决策,或敏感数据使用。相反,法案对最基本的功能——部署大模型系统,也应用了严格的标准。
斯坦福教授李飞飞开心地表示,自己能和StanfordHAI一起,为加州负责任的AI治理铺平道路,深感荣幸。
AI泰斗吴恩达也感谢了李飞飞对于SB-1047的公开反对,称她的努力能推动更理性的AI政策,从而保护研究和创新。
就在前几天,SB-1047法案即将尘埃落定之际,吴恩达和LeCun还在焦急地奔走呼吁、发起投票,担心一旦通过,开源AI和整个AI生态系统都会产生寒蝉效应。
州长表示,法案对最基本的功能,也适用最严格的标准,这并不是保护公众买免受AI技术威胁的最佳办法。
去年,加州州长签署了一项行政命令,强调加州面对GenAI态度要更加审慎,让AI更加道德、透明、可信。
而今年2月,加州直接拟定了法案,名为《SB-1047前沿AI大模型安全创新法案》,对于大模型安全、透明的使用给出了更具体的条例。
比如有一条规定,开发、训练成本超1亿美元,且浮点运算超过10^26次的大模型,一旦开源后被有人用来做非法的事,那么模型开发商也会受到严重处罚。
按照法案的说法,开发者需要评估其模型的衍生产品、防止他们可能造成的任何伤害,包括客户微调模型、以其他方式修改模型(越狱)或与其他软件组合。
然而一旦开源软件发布,人们可以直接将模型下载到个人设备上,因此开发者根本无从得知其他开发者或客户的具体操作。
比如AI模型的「关键伤害」,被描述为大量伤亡、超过5亿美元的损失或其他「同等严重」的伤害,但开发者在什么条件下要被追责?要承担何种责任?
并且,法案适用于花费超过1亿美元训练的AI模型,或花费超过1000万美元微调现有模型的开发者,也就让许多小型科技公司落入被打击范围。
SB-1047还有一些不合理规定,比如如果公司开放模型给其他国家使用,还得提交客户的所有资料,包括客户的身份证、信用卡号、账号等。
开发者还必须创建能够解决AI模型风险的测试程序,并且必须每年聘请第三方审计员来评估其AI安全实践。
对于那些基于模型打造的AI产品,则需要制定相应的安全协议来防止滥用,包括一个关闭整个AI模型的「紧急停止」按钮。
更讽刺的是,法案用所谓的「紧急开关」预防世界末日,但对Deepfake、虚假信息等已出现的安全风险却视而不见。
而图灵三巨头中的另外两位——Yoshua Bengio和Geoffrey Hinton,却出人意料地强烈支持这项法案通过。
SB 1047概述了对这种技术进行有效监管的基本要求。它没有实施许可制度,不要求公司在训练或部署模型之前获得政府机构的许可,它依赖于公司自行评估风险,甚至在发生灾难时也不对公司严格追责。
取消该法案的基本措施将是一个历史性的错误——这一错误将在一年内变得更加明显,因为下一代更强大的AI系统将被发布。
本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。