马拉松式39小时谈判！欧盟AI监管达成“里程碑协议”，直指ChatGPT和谷歌Bard

全球首部人工智能领域的全面监管法规草案达成协议。

据媒体报道，欧洲议会、欧盟成员国和欧盟委员会三方，在历经近40个小时的漫长谈判后，于布鲁塞尔当地时间12月8日晚，就《人工智能法案》达成协议。

据悉，该项法案旨在通过全面监管人工智能，为这一技术的开发和使用提供更好的条件，谈判同意对生成式人工智能工具实施一系列控制措施。

欧盟委员Thierry Breton在X平台发文称：

“《人工智能法案》不仅仅是一本规则手册，它还是欧盟初创企业和研究人员引领全球人工智能竞赛的跳板。”

该立法草案仍需得到欧盟成员国和议会的正式批准，一旦双方正式批准，该立法预计将于明年初生效，并应在两年后实施，或将为全球范围内监管人工智能技术定下基调。

矛头直指ChatGPT和谷歌Bard

根据官网介绍，欧洲议会推行AI监管的首要任务是确保欧盟使用的人工智能系统安全、透明、可追溯、非歧视和环境友好；人工智能系统应该由人而不是自动化来监督，以防止产生有害结果。

因此，据称，该立法草案提出了一种平衡、适度的人工智能横向监管方法，仅限于解决人工智能相关风险和问题的最低必要要求，而不会过度限制或阻碍技术发展，或以其他方式不成比例地增加将人工智能解决方案投放市场的成本。

具体来看，该草案的主要内容包含以下几点：

采用基于风险占比的方法，为欧盟内人工智能系统的开发、市场投放和使用制定了统一规则。

禁止某些违背欧盟价值观、特别有害的人工智能做法。这类做法包括：使用人工智能进行“社会评分”、操纵人类行为以规避其自由意志等。

针对某些执法用途的远程生物识别系统提出了具体的限制和保障措施。比如，将禁止根据政治或宗教信仰、性取向或种族等敏感特征对人进行分类的生物识别扫描，媒体称这是谈判中最困难、最敏感的问题之一。

规定了一种可靠的风险方法，以界定对人的健康和安全或基本权利构成重大风险的 "高风险 "人工智能系统。

对于某些特定的人工智能系统，只提出了最低限度的透明度义务，特别是在使用聊天机器人或 “深度伪造技术”时。

值得注意的是，Breton表示，立法者同意采取两层办法，即“对所有通用人工智能模型提出透明度要求”，以及对整个欧盟“具有系统影响的强大模型提出更严格的要求”。

知情人士也曾于12月8日向媒体透露，谈判代表已同意对OpenAI的ChatGPT和谷歌的Bard等能够根据命令生成内容的生成式人工智能工具进行一系列控制。

也就是说，该草案直接要求ChatGPT和通用人工智能系统等基础模型在投放市场之前遵守透明度义务，其中包括起草技术文件、遵守欧盟版权法以及传播有关培训内容的详细摘要。

比如，具有系统性风险的高影响力AI模型必须进行模型评估，评估和减轻系统性风险，进行对抗性测试，向欧盟委员会报告严重事件，确保网络安全并报告其能源效率；具有系统性风险的GPAI可能需要依靠实践守则来遵守新法规。

在处罚规定方面，拟议的立法将对违反规定的公司处以经济处罚，罚款最高可达3500万欧元，或全球营业额的7%，具体取决于违规情况和公司规模。

接下来，欧盟等还将就此草案讨论细节，这可能会改变最终立法的形式。法案正式颁布实施后，各成员国将基于本国的公共政策基础，做出一定的变通适用。

率先立法，欧洲领跑AI竞赛？

该项草案如果成功立法，意味着欧盟将成为第一个制定人工智能法律的世界主要强国。

Breton表示：

“欧洲将自己定位为先锋，了解其作为全球标准制定者角色的重要性。是的，我相信，这是历史性的一天。”

根据央视新闻报道，此前，欧盟方面一直希望推动《人工智能法案》尽早出台。

2019年以来，欧盟一直布局人工智能监管领域，先后发布人工智能伦理准则并出台《人工智能白皮书》。

2021年4月，欧盟委员会提出《人工智能法案》提案的谈判授权草案。此后，欧洲议会和欧盟理事会就草案进行了多轮修订和讨论。

2023年6月，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了《人工智能法案》谈判授权草案，推动了该法案进入立法程序的最后阶段，即举行欧洲议会、欧盟成员国和欧盟委员会的“三方谈判”，以确定法案的最终条款。

《人工智能法案》的出台也将为欧洲自身的AI技术发展带来便利。

草案中提及：

“鉴于技术变革的速度和可能面临的挑战，欧盟致力于努力采取一种平衡的方法。保持欧盟的技术领先地位，确保欧洲人能够从根据欧盟价值观、基本权利和原则开发和运行的新技术中受益，符合欧盟的利益。”

反对的声音

今年6月，包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动，以“可能损害欧洲竞争力”“不能应对潜在挑战”等为由，公开反对欧盟通过《人工智能法案》。

Open AI的Altman也此前曾批评欧盟监管AI技术的计划。

此前起草的拟议法律暗示ChatGPT和大型语言模型GPT-4都可能被指定为高风险。Altman曾就此回应道：“如果我们能遵守，我们会，如果我们不能，我们将停止运营。我们需要试试，但可能存在技术限制。”

草案达成协议的结果公布后，欧盟高级政策顾问Ella Jakubowska表示：

“欧盟首次采取措施使整个欧盟范围内的实时公共面部识别合法化，这很难让人感到兴奋。”

“虽然议会努力限制损失，但生物识别监视和分析的整体方案充其量只是冷淡。”

商业组织DigitalEurope的总干事Cecilia Bonefeld-Dahl称：

“我们达成了一项协议，但代价是什么？我们完全支持基于人工智能使用的基于风险的方法，而不是技术本身。”

不过，该法案草案达成协议的背后，更重要的意义或许在于提供了监管AI技术的政策蓝图。

欧盟执行机构欧盟委员会主席Ursula von der Leyen表示：在该法案完全适用之前，我们将支持企业和开发商预见新规则。大约100家公司已经表示有兴趣加入我们的《人工智能法案》。