对抗数字威权主义的兴起：中国、人工智能和人权

英文标题：Countering the Rise of Digital Authoritarianism

译者： 未央

译者按语：中共国防疫三年，是数字威权主义最“完美罪行”的现实精华版；最近一周之内，世界又被中共国间谍（数字）气球“流浪”于全球的事实所震骇；当下整个世界正在艰难地辨认ChatGPT对人类未来意味着什么，应用该应用程序以CNN之名的AI主持人节目遂出现，专门攻击民主制、颂扬中共专制极权。无疑，无论从主观野心、政党残暴本质、操练经验还是技术成熟度，中共国强加在中国人民身上的数字奴役，正在极速推向全球。因此，译者选择了斯坦福大学一组成果综述翻译出来，以警醒世人和民主运动行动者。

该成果是斯坦福大学网络政策中心所属“全球数字政策孵化器”项目的一次会议综述，该项目是在弗里曼·斯波格利国际问题研究所和斯坦福大学法学院的联合倡议之下成立的。其使命是激发政策和治理创新，以加强数字领域的民主价值观、普遍人权和法治。其目的是作为制定规范、指南和法律的协作中心，以增强全球数字生态系统中的自由、安全和信任。

绪论

全球数字威权主义趋势构成了对当下人权最重大的新威胁。这一趋势让数字技术得到越来越广泛地使用，在一国之内部通过监视、审查和信息操纵来进行镇压；又以同样的目的向国外出口镇压技术；颇为老练的国际外交努力破坏着数字化社会对人权所做的承诺。根据“自由之屋宇”（Freedom House，一个专门研究数字威权主义的学术网站） 进行的年度评估，中华人民共和国是数字威权主义最强大和最重要的传播者，一直是世界上互联网自由最邪恶的滥用者。

上个月，全球数字政策孵化器与人权基金会、胡佛研究所和斯坦福以人为本人工智能研究所合作举办了一场由四部分组成的会议，题为“数字威权主义的兴起：中国、人工智能和人权” ”。会议考察了推动中国崛起为威权数字大国的几个方面，整个议程包括以下组成主题：

第一部分：人工智能如何为中国的国内监控提供权力；

第二部分：与中国和中国公司做生意的伦理规范；

第三部分：中国作为新兴的全球人工智能超级大国；

第四部分：民主国家应如何应对中国崛起为人工智能超级大国。

借鉴这次会议及其演讲者的见解，本简报审视了中国打先锋并输出的数字威权主义的威胁，并概述了人权的风险和影响。简报最后建议民主政策制定者采取行动，以在全球范围内对抗数字威权主义。正如前国务卿康多莉扎·赖斯在会议的开场白中指出的那样，中国不断上升的数字威权主义所带来的挑战对自由人民构成了重大威胁，“民主国家需要认识到我们在这里正在进行一场竞赛，一场对人类未来有着巨大影响的竞赛。”

一、威权主义局面

在审视中国在数字威权主义兴起中的作用时，从两个主要方面考虑政府的行为是有意义的：(1) 在国内对中国公民的虐待和威胁； (2) 中国通过技术出口和国际论坛外交重塑全球规范和标准，使数字领域的威权行为成为可能，从而向其他国家输出数字威权主义所带来的全球风险。

1.1 中国在国内施虐

在审视中国在国内的数字威权主义实践时，数字技术的三种应用对中国共产党在国内的权力滥用尤为重要。

首先是审查制度。在中国，网络审查的做法在一定程度上是由防火墙实现的，它（借助深度数据包检测能力、DNS中毒、VPN拦截器和IP地址限制等技术机制）阻止人们对外国媒体、网站和讯息传递应用程序的使用，这就相当于一个高度复杂的审查机构。中国审查制度的另一个特点包括进行内容删除，系统地从数字媒体中删除对政府的在线批评。此外，在加强对在线媒体限制的立法和法规的支持下，一种特别激进的审查形式得以实现，是通过离线逮捕以及对互联网行动和批评追究后果。这方面的一个例子是中国的国家安全法，该法已在香港实施，对用户和社交媒体公司（如果认为其内容反映了网上民主活动）追究刑事责任。

第二个相关应用涉及政府对信息空间的控制。中国的国内信息策略包括宣传，还包括控制构成数字媒体和传播生态系统的工具、软件和基础设施的能力。使用这些工具，中国共产党可以通过取消对信息的访问，或取消移动和互联网连接，作为对社会行动的惩罚来施加控制。此外，在线操纵使信息空间充斥着付费评论，从而淹没了批评声音。

第三个要素是大规模监控，加州大学伯克利分校的研究科学家、中国数字时代的创始人兼总编辑肖强表示：“中国正在通过这种方式对其人口进行360度全方位观察”。这个监视系统是多层面的。例如，人权观察中国高级研究员王松莲指出，中国不仅开发了国家身份证系统，而且除此之外还收集了广泛类别的个人数据，从生物特征（包括 DNA、语音样本、和面部识别码）到健康记录，甚至是相对普通的个人信息，例如市民的购物店会员资格。这些要素结合起来构成了一个精心设计的社会信用体系，在该体系下，政府能够利用协调的行政体系，通过制裁和公开羞辱来影响公民的行为。正如肖强所说，这种方法代表了一种新的数字形式的“威权主义，它不择手段地将权力扩展到[公民]生活的方方面面。”

这些累积的监控做法得到了技术、应用程序和密集人工劳动的支持。例如，面部识别技术使自动种族定性成为可能，王松莲对《纽约时报》的技术记者保罗·莫祖尔都指出，这种技术已被用来监视和制服新疆数百万维吾尔族和其他穆斯林族群的成员，“综合联合作战平台” (IJOP) 为监控提供了进一步支持，这是一个用于监视公民的一种劳动密集型的“系统中的系统”。政府利用“综合联合作战平台”，部分地采用了一个这样的应用程序：收集和综合有关公民行为的数据（包括从天然气使用到电力使用和包裹递送的信息）。通过这个应用程序，官员可以收到可疑活动或情况的报告，这可能就会促使官方调查。这些形式的极端监控遍及该国不同的阶级和文化，并分别针对城市和农村环境量身定制了独特举措，称为“天网”和“锐眼”。

这三个要素——审查制度、信息控制和大规模监控——结合在一起，使政府能够对中国公民的生活行使巨大的权力和影响力，威胁到线上和线下的人的自由、安全和自主权，下面将作更详尽的描述。然而，专家警告说，虽然政府正在以压迫的方式利用技术，但重要的是要认识到这些做法并不是中国文化或社会价值观的症状。据肖强观察，中国政府的中国梦，实际上就是中国人民的梦魇。

1.2 全球风险

中国除了在国内滥用权力之外，其他重要趋势也在助长数字威权主义在全球兴起。德国马歇尔基金会保障民主联盟的新兴技术研究员林赛.戈尔曼(Lindsay Gorman)指出了三个特别值得注意的趋势。她认为技术竞赛不仅仅是技术本身，也是开放社会与封闭社会之间的斗争。

第一个趋势是，经济和国力之间的日益融合。美国国防创新部主任迈克·布朗在演讲中回应了这种动态，他强调了技术竞争力现在与国家实力直接相关的多种方式。这种趋势在知识产权盗窃的背景下尤为明显——这是中国作为技术强国崛起的一个普遍问题——以及中国政府为实现全球竞争力而对华为等电信公司进行的大量国家补贴，戈尔曼和布朗都强调了这一点。正如戈尔曼所说：“我们现在所看到的……是这种观念，即技术竞争力正在成为国家实力的关键要素……我们真的无法像以前那样将这两个维度分开。”

与第一个趋势相关的第二个趋势是，国家实力正变得越来越不单纯与军事实力相关，而是越来越与软实力相关，包括通过技术竞争力和信息领域的实力塑造国际环境的能力。戈尔曼说：“以前，国家安全更 [直接] 被定义为一个国家的军事实力，”但塑造全球规范和治理以及在信息领域行使权力的能力现在“正在成为专制国家和民主国家之间的竞争领域。” 尽管迈克·布朗指出，中国致力于削弱美国的军事优势，但这只是实现全球实力的多管齐下战略之一部分。通过观察中国的数字丝绸之路战略（其“一带一路”倡议的一个组成部分，迈克·布朗指出可以将其描述为“殖民主义的一种经济形式”）以及美国最近对TikTok 所有权属于中共国所做出的政策回应（它援引国家安全当局来证明在美国对流行的应用程序进行阻止是合理的），可以找到这种趋势的证据。

戈尔曼确定的第三个趋势是，将数据用作国家权力的工具，既可以行使控制权，也可以积累可以为未来技术提供动力的资源。她指出，到2025年，全球数据总量“将达到数个泽字节 [一个泽字节是六十亿字节] 。这不仅仅是添加更多信息和启用一种线性尺度的应用程序”。一旦信息达到这种规模，威权政府就有动力“从公民那里提取尽可能多的数据，不仅是为了压迫，也是为了推动下一代新兴技术的发展。” 谷歌前首席执行官兼执行主席埃里克·施密特 (Eric Schmidt) 指出，尽管中国可能享有某些数据优势——无论是在聚合量方面，还是在不考虑隐私标准的情况下使用数据的意愿方面——但这并不一定等同于更广泛的人工智能技术进步，因为算法的发展需要更少的训练数据来实现相同的学习。施密特表示：“中国目前的优势可能在于其数据聚合方面，但这种优势最终可能没有人们想象的那么重要。”

总而言之，这些趋势促成了中国共产党不仅将数据和新兴数字技术武器化以压迫其本国公民，而且还能够将这些风险的影响范围扩大到境外。

中国的监控技术出口是国际关注的一个有据可查的现象。与会者表示，监控技术已出口到埃塞俄比亚、厄瓜多尔、南非、玻利维亚、埃及、卢旺达、沙特阿拉伯等国家。例如，哈萨克斯坦的公交车上使用了中国的面部识别技术。此外，中国商业开发的基础设施和消费技术正在无数国家使用，包括欧洲和北美的民主国家。中国跨境传播技术和工具不仅使非自由主义政府能够在国内模仿中共的数字威权主义模式，而且还将中国监管的潜在范围扩展到其他国家。 在我们的会议期间，GDPi 联合负责人拉里.戴蒙德（Larry Diamond）与 克里斯·梅瑟罗（Chris Meserole）（布鲁金斯学会）、安雅·曼纽尔（Anja Manuel）（Rice、Hadley、Gates & Manuel LLC）和克里斯托弗·巴尔丁（Christopher Balding）（越南富布赖特大学）主持了一场会议，就此问题进行了深思熟虑的讨论，强调了中国出口做法之影响力的复杂性以及可能出现的回应。

中国还通过积极利用国际体系重塑规范和原则来影响全球格局。美国参议院最近的一份报告详细说明了，中国利用多边论坛将其议程的各个方面制度化、侵蚀人权标准并破坏自由公平的互联网的方式。这些努力反映了中国的技术竞争力可以产生随之而来的国际软实力和经济影响力的方式。诸如联合国人权理事会和国际电信联盟之类的论坛面临着这样的风险：成为把有关数字权利的新威权标准和做法制度化的附庸。

在戈尔曼对全球格局的评论中，她描述了互联网在三个关键层的未来：基础设施层（如5G网络）；应用层（包括面部识别等技术，也包括智能传感器、自动驾驶汽车和其他收集数据的技术）；最后，治理层（包括中国利用其技术竞争力、以符合其愿景的方式、塑造国际实践和原则的方式）。中国不仅在国内而且在世界范围内都在努力在所有这些层面上占据主导地位。这些特征结合在一起，中国数字威权主义在全球范围内构成重大风险，这就确定无疑了。

二、人权风险和影响

受到数字威权主义威胁的主要人权之一是隐私权。作为压迫工具和经济工具，广泛的监视，加上各种数据的整合（如社会信用体系所示），大大削弱了中国公民的隐私以及他们的人性和自主性，部分原因是选择被替代，做决定的分析呆板僵硬。隐私风险对所有中国公民来说都是严重的，尤其是对维吾尔人和其他少数民族而言，他们在中国境内和据报道在国外的侨民社区都受到严格监视。如上所述，这些对隐私的威胁因中国监视技术向威权政权和新兴民主国家的广泛出口而变得更加复杂。

数字威权主义也威胁言论自由。广泛的互联网审查、对信息获取的限制、系统性的内容删除——以及经常逮捕那些在网上以相当平凡的方式反对中国政权的人——严重威胁着公民自由表达意见的能力。对数字信息环境的重大操纵加剧了这些威胁，大量支持政府的言论抑制了公民形成不受政府影响的意见的能力。COVID-19 危机进一步放大了这些风险，在此期间，中国政府一直在努力控制有关这一流行病的信息。

无处不在的监视以及对言论和信息的严格限制也对集会和行动自由构成威胁。例如，王玛雅（Maya Wang）指出，IJOP 数据收集机制和面部识别技术位于不同的地理接触点，创造了一种虚拟栅栏效应，限制了这些社区之间的自由流动。更一般地说，当公民知道他们受到国家监视的程度时，可能威胁政权甚至在特定问题上挑战政权的集会就会变得更加危险。有报道称，维吾尔人和其他少数民族即使在离开中国后也可能成为攻击目标，这进一步放大了这一点。这意味着对行动自由的限制在加剧，因为他们知道即使离开该国也可能会被国家继续监视。

最后，中国利用其数字基础设施以多种方式威胁其公民的安全和保障。许多人权组织记录了中国西部对维吾尔少数民族的镇压和强制拘禁。数字工具与这种镇压的交集是深刻的，包括使用社交媒体进行跟踪；针对离开中国的维吾尔人的家人；使用虚拟围栏和IJOP应用程序对维吾尔人进行极端的侵入性监视。除了对这些少数群体的威胁之外，中共还使用其数字监控设备对付香港的民主抗议者，将他们作为逮捕和暴力的目标。中国压制性的数字信息法还导致记者和其他公开反对该政权的人被强制监禁。

三、给政策制定者和民主政府的建议

3.1 民主政府应合作重振数字时代的民主联盟。

民主国家应该合作行动，阐明一个令人信服的替代方案和一个自由开放的数字未来的积极愿景。这一愿景应包括协调应对数字专制威胁的国际机制。正如斯坦福互联网观察站主任亚历克斯. 斯塔莫斯(Alex Stamos) 在我们的会议上指出的那样，通过国际协调，出口管制等政策应对的效力得到了显著提高。为了在民主国家之间实现这种水平的合作，谷歌前首席执行官埃里克.施密特鼓励政府领导人建立“数字技术和价值观联盟”。 施密特（Schmidt）在会中与 GDPi 执行董事艾琳·多纳霍（Eileen Donahoe） 进行了对话， 她强调：“这是一次外交机会……[以及] 齐心协力将扩大我们的影响力。”

3.2 民主政策制定者必须在国内就技术发展与治理实施一种尊重权利、基于价值观的方法。

民主政府应该在自己的决策中坚持这些原则，从而展示一种超越数字威权主义、基于价值观的替代性方案的优势。正如克里斯·梅瑟罗 （Chris Meserole）所简洁指出的那样：“我们必须让我们的房宇井然有序。” 为成功实现这一目标，民主政府应实施组织化的安全保障，以确保国内数字政策的制定与互联网自由的国际原则保持一致。作为这个过程的一部分，林赛.戈尔曼建议：“民主国家……照照镜子[并问：]我们自己系统的哪些因素可能会助长镇压？”

3.3 民主政府应在多边议程中清楚阐述并提升数字威权主义的风险级别。

民主政府必须在全球多边舞台上与中国会面，既要挑战数字主权等封闭概念，又要积极利用这些国际论坛来推进互联网自由的民主模式和原则。正如参议院外交关系委员会最近的报告明确指出的那样：“从联合国 (UN) 到世界贸易组织 (WTO)，中国利用其政治和经济实力塑造着围绕数字领域的国际标准，从而利于一种更极权的世界观。” 民主政府必须在多边领域对抗的中国这些努力。

3.4 民主政府应优先投资技术研发。

这些投资将确保反映民主价值观的未来技术组件的可用性，同时保持民主制在技术治理和权力领域的竞争力和影响力。康多莉扎·赖斯 (Condoleezza Rice) 在我们会议的开场白中说：“我们需要代表自由的人民，齐心协力地努力，确保数字独裁者不会获胜；他们无法赢得这项技术的竞赛，因为无论谁赢得竞赛，都将在塑造国际体系的重大方面捷足先登。” 美国国防创新部主任迈克.布朗在讲话中强调了这种情绪，他指出：“如果你不在技术上领先，那么你在治理领域就缺乏权威。” 民主政府应优先考虑研发投资，以维持全球竞争力。

3.5 民主政府应投资市民社会并致力于加强民主制度。

市民社会组织可以在如下方面发挥作用：促进政府在尊重权利的数字实践中负起责任；通过努力提升数字素养、更清醒地意识到数字风险，从而增强社区韧性。

 （原作者：基普. 温斯科特(Kip Wainscott)，是全球数字政策孵化器的高级顾问。作为一名律师和政策专家，他在政府、公民社会和私营部门拥有丰富的经验，广泛从事技术对民主和人权的影响等问题的研究。）