欧盟如何监管人脸识别技术？

启示号
科技
3年前
282

刊物介绍

原标题：欧盟面部识别技术强监管：基本人权与技术利益的平衡

本文作者：吴世樱

摘要

面部识别技术在欧盟面临强监管态势。现阶段欧盟人工智能法规草案中，部分应用领域如执法部门的面部识别技术被列入高风险人工智能系统，或面临最强监管即完全禁止。更重要的是，欧盟正在努力通过制定数字时代的技术标准来重新确立自己全球技术领导者的地位。在面部识别技术上找到适当的监管平衡不仅是降低此类技术风险的关键，而且对于欧盟树立其数字时代全球领导者的地位也至关重要。

Image Source / 图源：Panda Security, https://www.pandasecurity.com/en/mediacenter/security/facial-recognition-software/

在过去的两年里，总部位于美国的面部识别公司 Clearview AI 在其收集和处理个人数据方面面临了欧盟各国的审查。2021 年 11 月，英国独立数据隐私机构因该公司违反该国的数据保护法，对其处以超过 2200 万美元的罚款。2021 年 12 月，法国数据保护机构 CNIL要求 Clearview 在两个月中从其数据库中删除所有法国面孔。2022 年 2 月，Clearview 被意大利处罚2000 万欧元，并被要求停止收集数据，从其数据库中删除所有意大利人民的人脸图像数据，并设立公司代表与欧盟相关部门保持联络。自 2018 年以来，欧盟内部的数据收集和处理都因欧盟通用数据保护条例而受到了更多限制。面部识别对隐私和监控问题所带来的挑战已成为欧盟立法者讨论的焦点。同时，欧盟设立新AI法规的举措也将辅助欧盟建立其在制定全球面部技术技术标准方面的领导地位。

一、欧盟对面部识别技术的强监督

近年来，面部识别技术在全球兴起：2018 年，全球面部识别市场价值约39.7 亿美元，并可能在 2025 年可能增长到 101.5 亿美元。随着面部识别技术的发展，欧盟旨在控制面部识别的潜在负面影响。 2020 年 2 月，欧盟委员会发布了人工智能白皮书，其中强调了在欧盟部署面部识别技术的保障措施的必要性。欧盟人工智能高级别专家组指出，欧盟需要定义何时以及如何允许人工智能自动识别个人生物信息。

在此背景下，欧盟委员会于 2021 年 4 月发布了人工智能法规草案。该草案提出了一种基于风险等级的方法来制定人工智能系统的监管制度。可能对基本权利造成不利影响的“高风险”人工智能系统将面临更加严格的限制。在该草案中，远程生物特征识别系统类别的面部识别技术的监管将根据其应用领域而改变。其中，一个关键的政策问题是对于高风险和低风险生物识别系统的区分。例如，目前的条款大多都偏向于针对实时面部识别技术的部署。然而，研究人员指出，面部识别技术的“实时”和“后期”使用之间的差别可能没有想象中的大：人工智能技术的非实时使用也可能会给基本权利带来同样的风险。

此外，部分议员和民权组织认为目前的草案对面部识别的监管过于宽松。目前，该草案禁止在可公开访问的执法空间中实时使用面部识别。然而，一个由 40 名欧洲议会成员组成的跨党派团体指出，目前的框架未能禁止生物识别大规模监视。同时，多个隐私权倡导组织指出，当前的提案只关注执法部门，却忽视了其他政府机构和私人企业使用面部识别技术的威胁。

2021 年 10 月，欧洲议会通过了一项不具约束力的决议，支持禁止执法部门公开使用面部识别以及创建私人面部识别数据库——例如由 Clearview AI 创建的数据库。虽然不具约束力的决议不会影响当前的草案，但欧洲议会表示出了欧盟将对面部识别技术更强硬的立场。目前的提案草案将继续在欧盟层面进行辩论和审查，并可能需要数年才能通过。

二、强监管的动机

·面部识别的技术风险

欧盟关于监管面部识别技术的辩论主要由两个原因被推动：1）对该技术固有风险的担忧；2）欧盟寻求领导全球技术标准的制定。首先，鉴于面部识别技术的普及，人为控制难以实现。敏感信息可能会在未经同意的情况下被收集和使用，这些信息可能会被滥用而造成更大的伤害。此外，根据《欧盟基本权利宪章》第 7 条和第 8 条，面部识别技术可能会侵犯个人数据保护权和私人生活权。此外，算法决策系统中的歧视和偏见也是众所周知的问题。接受过有偏见数据训练的面部识别技术可能会延续现有的社会偏见，使弱势群体（如种族群体）处于不利地位。当该技术被执法部门部署时，这些问题会进一步加剧。最后，大规模监控的潜在威胁是面部识别技术的一个关键问题。在欧盟，在公共场所使用生物识别系统正日益成为常态。在这一点上，如果面部识别技术超出当前授权使用范围，该技术可能会导致大规模监视和匿名性完全的丧失。

·全球领导力以及平衡问题

除了面部识别技术的固有风险之外，欧盟还指出了其全球标准制定领导地位的首要问题。3 月 22 日，欧洲议会数字时代人工智能特别委员会 (AIDA) 通过了其最终建议。通过的文本警告说，欧盟正在落后于全球技术领导力竞赛，必须采取行动成为“人工智能的全球标准制定者”。欧洲议员 Axel Voss 表示，欧盟有“独特的机会来促进基于基本权利的以人为本和值得信赖的人工智能方法。”AIDA 委员会主席 Dragos Tudorache 也表达了同样的观点，指出欧盟的未来全球竞争力将取决于欧盟当前的监管框架和举措。

此外，该文本指出了监管人工智能面部识别技术的一个关键政策问题：法律框架必须为创新和技术利益留出空间。欧洲议会议员一致认为，欧盟的人工智能法案应侧重于该技术在提高整体生活质量方面的巨大潜力。在这方面，欧盟正在寻求的方法必须在监管程度和人工智能系统的风险水平之间建立适当的平衡。针对面部识别，委员会主席 Tudorache 表示，彻底禁止不会是最终解决方案。面部识别监管需要取得适当的平衡，以确保该技术可以在危急情况下（例如恐怖袭击）使用而不会导致大规模监视。展望未来，面部识别技术问题将继续作为人工智能法规草案的核心问题，成为其进展的关键挑战。

三、余论和总结

现阶段欧盟人工智能法规草案中，部分应用领域如执法部门的面部识别技术被列入高风险人工智能系统，或面临最强监管即完全禁止。更重要的是，欧盟正在努力通过制定数字时代的技术标准来重新确立自己全球技术领导者的地位。在这方面，欧盟正在寻求适当的平衡，让面部识别技术在不侵犯个人权利和避免建立大规模监控的情况下造福公民社会，为欧盟在数字时代的竞争力保驾护航。