领先全球，这个地区人工智能立法迈出关键一步

2023-06-16 18:26:38 互联网

欧盟朝着全球首部人工智能（AI）立法迈出重要一步。

当地时间6月14日，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了欧盟的《人工智能法案》（AI Act）谈判授权草案。草案文本显示，欧洲议会对此前版本作出修改，譬如在如何定义AI方面，进一步明确了高风险AI的场景，同时该版本也保留了此前的法案的重要内容，包括禁止在生物识别监控中使用AI技术，以及ChatGPT等生成式AI的披露透明度等问题。

若通过立法，该法案或成为全球首个关于AI的法案。欧洲议会的投票是正式立法前的最后步骤之一，接下来将进入三方“谈判”阶段——欧洲议会、欧盟成员国(EU member states)和欧盟委员会(European Commission)。欧盟委员会希望在今年年底前达成协议，新的法案将可能在2026年对相关公司产生影响。法案通过后，在极端情况下，违规公司可能被处以高达3000万欧元(合3300万美元)的罚款，或公司全球年收入的6%，也就是说对于谷歌和微软等大型科技公司而言，其罚款可能高达数十亿欧元。

(资料图)

禁止人脸识别，加强通用AI控制

该法案遵循“基于风险”(risk-based approach)的方法，将AI及其相关应用划分为四种等级，分别为被禁止、高风险、有限风险以及低风险，并针对不同类型制定相应的监管规则。

值得注意的是，欧洲议会官网显示的最新草案中，实时远程生物识别技术从“高风险”级别调整为“被禁止”级别，这意味未来公司不能利用AI技术在欧盟国家的公共场合进行人脸识别。

此外，欧洲议会也对通用AI(general purpose AI)提出了新的透明度要求——基于这些模型的生成式AI(例如ChatGPT)必须对AI生成的内容进行标注，以帮助用户区别“深度伪造信息”；此外其还必须披露用于训练模型的数据，声明是否使用受版权保护的材料来训练其模型。

欧盟委员会于2021年首次提出“基于风险”的《人工智能法案》，其最初的想法是规范AI的使用，并为如何在“高风险”情况下使用该技术制定标准。不过，自ChatGPT引起新一轮技术热潮后，通用AI也逐渐引起欧盟警惕，并被纳入法案，连带着基础模型(foundational models)的控制也随之加强，因为这些大型语言模型是ChatGPT等聊天机器人的底层支柱。

欧盟内部市场专员Thierry Breton在一份声明中表示，“我预计，关于生成式AI的相关条款将成为‘三方谈判’的关键讨论点之一。我们需要对AI生成的内容提出透明度要求，并针对‘深度造假内容’制定严格的规则。”

欧盟AI法案或影响其他立法者

对于《人工智能法案》，一些科技公司及其支持者认为，该法案可能会阻碍技术创新。不过，也有技术人员及学术界对这一法案表示支持，认为该法案能够通过规范AI技术的开发，有效地减缓公司在推出新型AI工具方面的竞争。

对于生成式AI的开发者而言，这些法律将产生巨大的影响，但一些大型科技公司仍然表示愿意“拥抱”法案。据路透社的报道，微软和IBM对欧盟的最新举措表示欢迎，不过它们仍然期待对方能够对内容进行进一步的完善。

微软发言人表示，“我们认为AI需要立法监管、国际层面的协调努力，同时也需要开发公司采取自愿行动。”

在AI领域的监管方面，欧盟一直走在世界前列。《华盛顿邮报》指出，此次投票将巩固欧盟在科技监管方面的全球领导地位，因为其他国家政府（包括美国国会）才刚开始应对人工智能所带来的威胁，尤其美国对于科技公司的监管一直停滞不前。如果该法案最终被采纳，其可能会影响全球的政策制定者。

“（这一法案）是可以强制执行的法规，（违反规定的）公司将被追究责任，这一点非常重要。”爱尔兰公民自由委员会的高级研究员Kris Shrisak说道，因为美国、新加坡等其他地方仅仅是提供“指导和建议”，他认为“其他国家可能会去适应和复制”欧盟的法案。

欧盟市场规模庞大，拥有约4.5亿消费者。有专家认为，欧盟举措将促使开发公司更愿意遵守规定，而不是为不同地区开发不同的产品。欧盟立法者Dragos Tudorache同样认为，欧盟的法案“将为全球AI的发展和治理定下基调”。

“今天我们创造了历史，”负责人工智能法案的欧洲议会成员Brando Benifei在新闻发布会上表示，他认为欧洲立法者为全球各地就构建“负责任的人工智能”进行沟通，“铺平了道路”。

标签：