作者：孙宇锋、孙瑞 转载自：微信公众号 “青椒” 原文链接
李丁按：
数字化转型在中国狂奔向前。但数字化对个人与社会究竟意味着什么？出乎互联网早期用户的意料，自由、平等、民主、去中心化的世界并没有如期到来，世俗政府已经基本夺取了它的管治权。专家和国家承诺和推动透明、高效的数字化社会是一个美好的乌托邦，还是它的反面，”恶托邦/敌托邦/反乌托邦“呢？这有赖于数字化转型过程中人的组织化、人对于制度的选择，以及人对于公权力的约束。
数字化极大地增强了国家和平台的信息能力，其分辨率和颗粒度都大大改进了，这改变了行政管理系统中的信息不对称，改变了国家、集体、个人之间的信息分布，产生具有重要学术和社会意义的”信息政治学“问题。健康码的大面积使用已经引发了人们的警惕，把它扩大用到截访和维稳，相信已经突破很多底线。当人们的思想和行为痕迹越来越被数字化、串并起来并用于个体监测和介入，这样的问题可能会越来越多。我们必须积极思考并参与建构信息采集和使用的合理规则，不能指望别人。
上海财经大学公共经济与管理学院孙宇锋老师昨天在朋友圈分享的一段概述和评论很值得传播，针对是近期不少社会现象，以及2014年诺贝尔经济学奖获得者Jean Tirole2021年发表在American Economic Review上的论文“Digital Dystopia”。由于Tirole的文章使用了模型语言，不算好读，为方便大家理解，征得论文大闷锅主编复旦大学陈硕教授的同意，将该公众号推送的孙瑞撰写的译介附在后面。
本文标题综合自孙老师评论中的关键词和Tirole的文章。
孙宇锋评：
Tirole（2021，AER）用一个精巧模型刻画了大数据时代下的数字化敌托邦（注解：数字化敌托邦，作者用词为Digital Dystopia，Dystopia在希腊语中的原意是：”bad and hard place”与作为完美理想社会代名词的Utopia刚好相反，Dystopia包含着完美邪恶的内涵，反乌托邦、敌托邦、绝望乡等是该词不同的中文译法）所面临的权衡取舍：一个渴望大数据消灭暗箱操作、腐败、欺诈与失信理想的另一面是对数字利维坦精确追踪管控个人行为的恐惧。
大数据治理的善意初心是希望个体能够对那些可能造成社会负外部性后果的个人举动三思后行，无论Social score（社会信用分/个人征信）还是Health code(健康码）都是服务协调集体行动、减少社会负外部性行为、改善社会整体福利这些更高阶目标的工具而非目的本身，如果手段代替了目标，大数据治理就存在着走向反面的巨大风险。
Tirole指出：一个有着自发凝结核和很强自组织性的“有机社会”（引用涂尔干的定义）对大数据治理的需求没有那么迫切，具备自我管理能力的社会在自我治理中产生的社会有机共同体（social fabric）或者社会资本已经发挥着类似大数据治理的功能。迫切需要大数据治理的社会是那种完全缺乏自组织能力的“散沙社会”，在这种散沙社会中，大数据治理可以弥补社会资本不足和社会有机共同体（social fabric）自身发育不良产生的诸多社会问题。
Tirole的洞见提示着一种潜在悖论与危险：
一方面，“散沙社会”确实需要大数据治理来解决自身问题。另一方面，如果在社会治理中发生了目标与工具的价值置换，管理者将大数据治理作为要实现的目标本身，那么管理者就可能有激励制造并保持社会的“散沙状态”，通过维持社会的“散沙”状态促使社会保持对大数据治理的需求和依赖。
“散沙社会”固然享受着大数据治理带来的些许便利，但又因缺少替代大数据治理的其他社会自我管理机制而对大数据治理产生了依赖性，这种依赖性又使“散沙社会”不得不接受与大数据治理绑定的来自数字利维坦的诸多规训。虽然这些规训可能只体现管理者的利益诉求而偏离公共福利，但“散沙社会”面对数字利维坦在大数据治理中“搭售”（bundle）的规训只能全盘接受，这也是“散沙社会”为自己的依赖性付出的代价，毕竟经济学101课程就一上来就警告过我们“天下没有免费的午餐”（No free lunch）。
在这个基础上，Tirole做出了更进一步的预言：在散沙社会当中，如果规训得当，即便民众可以自由结社，已经将规训内化为服从的人们也会自发组织起来排斥“异见分子”（或者更准确的说是那些不服从规训导致群体低规训得分的“坏分子”），孤立“异见分子”使其成为散兵游勇，这个时候享有结社自由的人们虽然可以组织起来，虽然具备了集体行动的能力，但这种自由也不会带来对规训更多的不服从，相反，具备集体行动能力的驯化群体在有效的排斥“异见”之后反而会更加强化自身对规训的认可与执行。达到这个层次的敌托邦（Dystopia）也在某种程度上实现了“完美的自由”与“完美不自由”的统一，达到了一种“完美邪恶”的境界，《1984》中“自由即奴役”的状态在此刻也将成为了现实。Tirole在导论中将自己的这篇文章调侃为一篇社会科学的科幻小说，但他的寓言故事对大数据时代下未来社会演化可能性的洞见也不啻是一种提醒和预言。
孙瑞译介：
我们的生活应该对他人透明到何种程度？数字时代人工智能和面部识别等技术的广泛应用使得收集分析个人数据变得越来越容易，也使得我们的生活更加透明化。披露更多的个人信息究竟会让人更遵守社会规则，造就一个更美好的社会，又或者个人被政府和平台结构监控和驯服，成为一个反乌托邦社会（Dystopic Society）？对此问题尚没有一个严谨的理论分析。2014年诺贝尔经济学奖获得者Jean Tirole撰写并最近发表在American Economic Review上的论文“Digital Dystopia”首次将该争论模型化并探讨了数字反乌托邦社会出现的可能途径，他指出政府或平台机构利用社会评分（Social Score）将个人的政治态度与亲社会行为（Prosocial Conduct）绑定（Bundling）从而实现社会控制。
首先，作者构造了一个基准模型。公民生活在强关系或弱关系的社会网络中，并关心自己的社会形象（Social Image）。强关系指的是家庭、朋友和同事等稳定的社会关系，弱关系指双方通过平台或大城市互动等产生关系。公民的亲社会行为可以提升社会形象。亲社会行为通过两种方式被其他人了解，一种是直接与他人互动，另一种是通过公开的社会评分。公民存在两种政治态度：异议和顺从。作者比较了将公民的政治态度与亲社会行为绑定和不绑定的两种社会评分规则，从而分析政府如何利用社会制裁（Social Sanctions）来迫使公民接受政府所支持的政治态度，并得到如下主要结论：第一，将公民的政治态度与亲社会行为绑定的社会评分规则可以促进公民的政治顺从；第二，只有独裁程度充分高的政府才会将二者绑定；第三，绑定的社会评分规则在弱关系社会中更有效；第四，来自私人提供的社会评分竞争和公民对社会评分规则的质疑会影响到社会评分规则的有效性。
随后，作者对基准模型做了多方面的拓展与重新解释。作者考虑了两种模型拓展：第一，他人只能观察到公民的政治态度而非亲社会行为；第二，政府对公民实施非社会制裁（例如，经济制裁）而非社会制裁，拓展模型结论与基准模型类似。另外，作者对模型做了三种重新解释：第一，将模型应用于民主国家，将“顺从”的政治态度解释为多数人所偏好的某些观点或行为；第二，利用模型解释私人平台与官员的关系，私人平台披露选举官员信息从而操纵官员评分以换取好处，正如政府控制平台利用社会评分镇压异议。第三，将模型应用于一个仁慈的政府，结论发现社会评分促进了公共品的供给。
最后，作者考虑了模型的线性二次高斯版本（Linear-Quadratic Gaussian Version），并将公民的社交图谱（Social Graphs）纳入到社会评分中。基准模型考虑了离散情形下的公民亲社会性和政治态度，线性二次高斯版本则可以研究连续偏好下公民的行为。同时线性二次高斯版本模型也可以研究公民偏好的异质性、亲社会性与政治态度的相关性对结论的影响。模型表明，在社会评分中绑定一定程度的亲社会行为与政治态度总是最优的。公民的社交图谱指的是政府或私人机构利用大数据绘制出的公民社交关系图。政府采用的连坐（Guilt By Association）方式将公民的社交图谱纳入到社会评分中，即与政治态度为“异议”的公民来往则意味着自身也是“异议者”。这种方式加强了社会控制，但也对社会结构（Social Fabric）造成了破坏，断绝了公民之间有益的联系。作者随后指出，连坐的社会评分在强关系社会中无效，同时当社会联系价值很高或持有不同政治态度的公民很多时则可能出现多重均衡。
尽管本文的思想可以在当前社会找到对应的案例，但作者认为最好将其看作为一篇社会科幻小说，本文只是第一步，未来仍有许多问题值得研究。首先是动态问题，连坐改变了社会结构，进而会影响社会评分的设计与政权的更迭；其次可以在分析中引入行为的因素，如考虑公民和政府的不理性行为等；同时本文忽略了在社会评分中评分者与被评分者关系的改变与多层次政府之间的协调问题，这些都有待后续更进一步的研究。
译介原文来自：论文大焖锅丨推送练习 AER 数字反乌托邦 by Tirole
