聊天控管：欧盟实时大规模监控计划剧变

聊天控制：欧盟实时大规模监控计划的 Dramatic 变化

发布于 2023年10月20日，由 Glyn Moody 撰写

一年前，我们讨论了欧盟破坏端对端加密的计划，通常被称为聊天控制。这项提议的法律旨在预防和打击儿童性虐待，目前正进入欧盟立法流程的最后阶段，而针对是否包括实时大规模监控的争论愈演愈烈。在过去几个月中，出现了一些重要的发展，可能会对法律的最终形式产生重大影响。

大家对聊天控制的看法如何？

2023年2月，荷兰代尔夫特大学的研究人员发现在欧洲委员会对其新措施的六个公开声明中，有三个是不正确的。7月，欧洲委员会发布了其欧洲公众意见调查Eurobarometer结果，这是一项关于防止儿童在线性虐待的研究。它声称其结果显示全欧盟公民对预防和打击在线儿童性虐待的支持非常强烈。

这本身并不奇怪没有一个正派的人会反对打击这类可怕的罪行。但正如MEP帕特里克布雷耶所指出的，他的聊天控制页面是有关计划的最佳资料来源：

18岁以上的市民以多种方式被询问，是否应该自动检测在线的儿童性虐待图像大多数受访者同意。但他们无法理解这些问题的意义是，私人消息需要无差别地用易出错的算法进行搜索。

目前存在哪些问题？

一个关键问题的措辞暗示，只能准确且可靠地检测出儿童性虐待材料CSAM，不会发生任何误报。但正如布雷耶所指出的，瑞士联邦警察发现高达80的机器报告资料最终被认为是刑事无关的。

对于聊天控制提案的持续争议，欧洲理事会三个制定新法律的欧盟机构之一推迟了该主题的投票。主要因为一些欧盟国家不支持该文本的现行版本。几天后，《巴尔干洞察》发表了一项广泛调查的结果，调查了那些积极支持提议的CSAM立法的团体。该文章的揭示由欧盟数字权利组织EDRi的政策主管Diego Naranjo总结：

今天发布的调查确认了我们最糟糕的担忧：过去十年来最受批评的欧洲技术法律是知名公司的游说和执法部门的产物。[欧洲联盟]专员约翰森在与大型科技公司握手的同时，无视了欧洲的学术界和公民社会，提出了一项试图合法化大规模监控并打破加密的法律。

《巴尔干洞察》文章中包括了来自欧洲刑警组织Europol的一个特别重要的评论：

Europol官员提出使用提议中的欧盟中心来扫描不仅仅是CSAM的想法，告诉委员会，还有其他犯罪领域将受益于检测。根据会议记录，一位委员会官员表示理解额外的要求，但强调在提案周围的许多敏感性中需要保持现实。

这正是许多人警告实施聊天控制大规模监控系统的危险。一旦启用，对其用于其他目的例如打击恐怖主义或毒品的压力将是政治家无法抗拒的。

在她对《巴尔干洞察》的回复中，负责聊天控制立法的欧盟专员尤尔瓦约翰森否认公司在讨论中受到优待，引用该提案未能激励或不激励使用任何特定技术，让提供商自行选择运行的技术以有效遵守提案的义务。事实上，这种缺乏具体性正是聊天控制问题的核心所在：欧盟要求使用一种不存在的技术允许扫描加密通信而不损害隐私这一点已被无数安全和隐私专家指出。

偏见研究提供不可靠数据

在《巴尔干洞察》调查的揭示之后，科技专家丹尼梅基奇发现，欧洲委员会在X前Twitter上投放广告，试图影响公众对聊天控制的看法：

这场活动已被观看超过四百万次，使用了年轻女孩的惊悸形象，并搭配外表可怕的男人、阴沉的音乐，通过暗示反对提议立法的人不想保护儿童来进行一种情感勒索。其声称该提议的法律将获得多数欧洲人的支持的说法同样具有误导性，因为该调查仅强调了提案的好处，而未提及其缺陷。相反，研究公司YouGov和Novus的调查突出了缺陷，显示几乎没有欧洲民众支持该提案。

除了欧盟是否应该首先运行这种感情操控的广告的问题外，还发现存在另一个严重问题。这些广告主要针对对聊天控制持怀疑态度的国家比利时、捷克共和国、芬兰、荷兰、葡萄牙、斯洛文尼亚和瑞典并运用microtargeting的手段，确保广告不会展现在关注隐私的、对欧盟持怀疑态度的人或对基督教感兴趣的人面前。利用敏感标准如政治和宗教进行microtargeting在欧盟法律下是有疑问的，欧盟数据保护监察人已经开始一个预调查程序来检查这个问题。

欧洲委员会近期在推进其有争议的聊天控制立法中所用的手段导致反对者作出强烈反应。约翰森专员在一篇博文中写道，她曾遭到侮辱、威胁和恐吓。在同一篇文章中，约翰森提到一项新民调显示，81的欧洲人支持检测、报告和移除儿童性虐待的义务。然而，数据科学家兼研究方法学家维拉维尔德评价说，次日的调查为参与者提供了偏见和事实错误的信息，因此，维尔德表示，研究人员使其结果无效。维尔德在另一篇文章中指出，聊天控制对低发生率问题进行大规模筛查的应用的核心问题是它会产生大量的假阳性和假阴性：

对整个人群进行像聊天控制这样的筛查，意味著要根据许多不确定的结果展开调查这可能会对大量无辜者包括未成年人造成创伤。我们会因为拯救少数人而牺牲许多儿童的幸福吗？未成年人如何就其私人通信的使用为训练这个AI进行过同意？未成年人不再受到端对端加密保护的性图片和文字将如何确保不被滥用？隐私又该如何？

聊天控制可能会伤害儿童

聊天控制监控的一个核心问题是许多年轻人参与私信性爱行为根据2021年的一项研究，总体上约有18，以及13至17岁人群中有22。这其中许多内容无可避免地会被标记为CSAM，导致参与者受到污名化，甚至被犯罪化，警方则会因大量的假阳性而无法处理真正的虐待案件。具有讽刺意味的是，这项旨在保护儿童的欧盟新法可能最终会伤害到数百万儿童。这是为什么应该停止聊天控制的实时大规模监控，并开发其他方式的又一个理由。正如塔夫茨大学的苏珊兰道教授在其关于全球端对端加密攻击的Lawfare评价中所写：

要有不同的思考方式。要长远著眼。要考虑保护所有社会成员的隐私和安全包括儿童和成年人。

图片来源于欧盟内务事务部。