欧盟官方版：欧盟《人工智能法》通过版的主要内容及相关背景

PH值

以下文章来源于数据何规 ，编辑小何要开心

欧洲议会3月13日以523票赞成、46票反对、49票弃权通过了具有里程碑意义的AI法案。

该法案旨在保护基本权利、民主、法治和环境可持续性免受高风险人工智能的影响，同时促进创新，以将欧洲“打造成为该领域的领导者”。

该法案基于AI系统潜在风险和影响程度设立相应的义务。

一、引言

在周二的全体辩论中，内部市场委员会联合报告员布兰多·贝尼费（Brando Benifei，意大利，社会与民主党）表示：“大家终于拥有了世界上第一部关于人工智能的具有约束力的法律，旨在降低风险，创造机会，打击歧视，并带来透明度。多亏了议会，不可接受的人工智能实践将在欧洲被禁止，工人和公民的权利将得到保护。人工智能办公室将被设立，以支撑企业在相关生效前开始遵守这些规则。大家确保人类和欧洲价值观位于人工智能发展的中心。”

公民自由委员会联合报告员德拉戈斯·图多拉切（Dragos Tudorache，罗马尼亚，欧洲复兴党）表示：“欧盟已经交付了成果。大家将人工智能的概念与构成大家社会基础的基本原则联系起来。然而，还有许多工作要做，这些工作超出AI法案本身。AI将推动大家重新思考民主核心的社会契约，大家的教育模式，劳动市场，以及大家进行战争的方式。AI法案是围绕技术建立的新型治理模式的起点。大家现在必须专注于将这部法律付诸实践。”

二、下一步进展

AI法案仍需接受法律语言学家的最后检查，并预计将在本次立法程序结束前，经过所谓的勘误程序，最终获得通过。

此外，法案还需要得到欧盟理事会的正式批准。

法案将在官方期刊上发布后二十天生效，并在生效后24个月内全面适用，除了禁止的应用（生效后6个月内生效）；实践准则（生效后9个月）；通用AI要求含治理（生效后12个月）；以及高风险系统的义务（生效后36个月）。

三、AI法案主要内容

（一）AI的禁止应用场景

法案禁止了威胁公民权利的某些AI应用，包括：

（1）基于敏感特征的生物识别分类系统；

（2）从互联网或闭路电视摄像头中无差别地提取用于面部识别数据库的图像；

（3）工作场所和学校中的情绪识别；

（4）社会评分；

（5）仅基于对个人画像或特征评估的预测性政策；

（6）操纵人类或利用人类弱点的其他AI应用。

（二）执法豁免

原则上，执法机构不得使用生物识别身份识别系统（RBI），除非在详尽列出且明确定义的情况下。

“实时”RBI只能在采取严格保障措施下部署，例如时间和地理范围的限制，并需获得事先的司法或行政授权。此类用途包括搜索失踪人员或预防恐怖袭击。

使用这些系统的事后远程RBI，即被视为高风险的行为，也需要司法授权，并必须与刑事犯罪有关。

（三）高风险系统义务

法案也已经确定了其他高风险AI系统的明确义务，这些系统可能会对健康、安全、基本权利、环境、民主和法治产生重大影响。

高风险使用包括关键基础设施、教育和职业培训、就业、基本服务（例如医疗保健、银行业）、执法的某些系统、移民和边境管理、司法和民主程序（例如影响选举）。必须评估和降低前述系统风险，保留使用日志，保持透明和准确，确保人类持续监督。

公民将有权对AI系统发起投诉，并就影响其权利的高风险AI系统所作出的决定获得说明。

（四）透明度要求

通用AI系统及其基于的模型必须符合某些透明度要求，并在训练期间遵守欧盟版权法。

那些可能构成系统性风险的更强大的通用AI模型将面临额外的要求，包括进行模型评估、风险评估和报告事件。

此外，人工或操纵的图像、音频或视频内容（“deepfakes”）必须明确标记。

（五）创新及中小企业支撑措施

将在国家层面建立监管沙盒和现实世界测试，为中小企业和初创企业提供在市场上推出创新A产品之前进行开发和培训的机会。

四、背景

AI法案直接响应了欧洲未来会议公民提案，具体包括：

- 提案12(10)，强调增强欧盟在战略领域的竞争力；

- 提案33(5)，建立一个安全可信的社会，包括对抗虚假信息并确保人类最终掌控；

-提案35(3)，促进数字创新，同时确保人类监督；

-提案35(8)，可信和负责任使用AI，设定保障措施并确保透明度；

-提案37(3)，使用AI和数字工具改善公民（含残疾人士）获取信息的途径。