随着高科技日新月异的发展，数字革命如火如荼地进行，数据追踪以及在此基础上的决策机制已经成为治安管理、政治预测、市场营销、信用报告、企业管理、金融业务、公共项目管理甚至刑事判决惯常使用的工具。当我们欢庆数字化时代到来时，《自动不平等：高科技如何锁定、管制和惩罚穷人（法律与科技译丛）》作者尤班克斯却在追问，数字革命是否是一场由精英主导的游戏？普通人特别是贫困人口在数字时代的命运是什么？算法是否比人类更加中立、公正和明智？作者通过三个故事，揭示出令人惊讶的发现：美国各地的贫困人口和工人阶层都已经成为新数字贫困管理工具的对象，算法的错误和有意排斥严重影响他们的生活质量，甚至危及其生存。更令人恐惧的是，算法自动决策导致的数字歧视将让所有人处在数字济贫院而不自知。

《自动不平等》是一本激动人心又带有警示意义的社会科学著作，为我们清晰地描绘了未来算法社会的恐怖之处——当一个个鲜活的人变成算法中的一串数字符号，如何保证人还能够过上有尊严的生活？因为计算失误而带来的福利剥夺如何得到纠正和补偿？本书将社会科学的调查方法与动人心弦的叙述巧妙结合。作者从美国内陆蒂普顿县的乡村出发；历时一年调研洛杉矶闹市的贫民窟和南部社区，*后访谈了匹斯堡一带居住在贫困地区的家庭，进行了105场访谈，旁听家事法院审判，调研儿童虐待热线中心，搜集公共记录，提交《信息自由法》申请，详细阅读诉讼文档，参加百余场社区会议，揭示了算法管理下美国贫困人口的真实挣扎与困境。

　　美国印第安纳州在三年内拒绝了一百万民众的医保、食品券和现金福利补助申请——仅仅因为新试用的计算机资格认证系统将申请流程中出现的所有问题统统归为申请者“未予配合”。在洛杉矶，当地政府引入计算几十万无家可归者“弱势指数”的算法，以在住房资源有限的情况下，对需要救助的对象进行优先性排列。匹兹堡的一个儿童福利机构运用统计模型来预测哪些孩童可能会在日后受到虐待或忽视。这些听上去能高效快速解决社会问题、救助穷人的算法，经过纽约州立大学奥尔巴尼分校政治学副教授弗吉尼亚·尤班克斯在《自动不平等》一书的深入分析，却呈现出不同的样貌——事实上，它们为全美贫困和工人阶层家庭带来了巨大的风险。
　　标榜高效的自动化系统，并未实质上改善贫困家庭的处境，恰恰相反，嵌入偏见的高科技工具使政府在做出和民众生活息息相关的决定时，“名正言顺”地摆脱了道德障碍。令人更加后怕的是，尤班克斯在本书中揭露了伴随数据分析、统计模型与算法的监管网络，边缘人群正面临着更加严格的数字追踪、监控甚至惩罚，牢牢困在这张网中。
　　三个故事：“数字济贫院”中的生活
　　弗吉尼亚·尤班克斯在《自动不平等》中，以三个深入调查访问的案例分析，系统地研究了数据挖掘、政策算法和预测风险模型对美国贫困和工人阶层的影响。
　　“济贫院”这个比喻源于19世纪美国政府为减轻缓解贫困问题而建造的实体济贫院。尤班克斯认为“现在我们正在建设一所数字济贫院”，一所无形的“锁定穷人、管制穷人甚至惩罚穷人”的机构，一旦他们求助政府获取公共援助或者寻求其他公共服务，就会被这所看似中立的数字济贫院“瞄准”。
　　印第安纳州试行的福利资格自动认证系统推行福利资格自动化运营制度，脆弱不堪的规则和设计不当的操作指标意味着一旦发生错误，往往会被解释成是申请人而不是州政府或承包商的错误。自动决策工具永不出错，这种假设意味着计算机化的决策优于旨在为申请人提供程序公正的人工程序。成百万人的福利申请遭到了拒绝。这其中包括出生时就是脑瘫儿、医疗费用寄希望于政府的小苏菲。因为当地家庭与社会服务管理局社工的失误，苏菲家被径直归为“未能配合”政府工作，而被拒绝给予福利的申请。贫困人士成了“天然的福利欺诈者”。
　　洛杉矶为无家可归者提供服务的机构希望高效地利用资源，更加有效地与各方合作，但是将选取受助对象的工作外包了出去。根据其设计者的说法，该市的协调入住系统旨在将最亟需帮助的群体与最合适的资源相匹配。然而，大批无家可归者的个人信息被录入无家可归者管理信息系统．生成了所谓的“弱势指数”。次贷危机中失去一切的加里·伯特莱特大叔流落街头，因为“弱势指数”不够高，他只能在无尽等待中消磨掉自。己的希望。包括他在内的无数无家可归者的信息也成了执法部门可以随意获取的数据。他们被当成了“天然的罪犯”。
　　阿勒格尼县的家庭筛查系统根据一个人以往的行为模式来推测他将来可能采取的行动。在新的预测方式下，你不仅会受到自己行为的影响，还会受到恋人、室友、亲戚和邻居行为的影响。预测模型和算法将穷人标记为“风险”和“问题父母”。大量社会服务、执法活动和社区监督结合在一起，使他们的一举一动变得清晰可见，贫困成了“天然的风险指标”。

　　弗吉尼亚·尤班克斯，纽约州立大学奥尔巴尼分校政治学副教授。著有《数字死胡同：在信息时代为社会正义而战》（Digital Dead End：Fighting for Social Justice in the Information Age），与阿莱西亚·琼斯（Alethia Jones）共同主编《不会让任何人改变我：与芭芭拉·史密斯共同的四十年运动建设》（Ain't Gonna Let Nobody Turn Me Around：Forty Years of Movement Building with Barbara Smith）。在《科学美国人》《国家》《哈珀斯》和《连线》等杂志发表多篇有关技术和社会正义的文章。二十年来，尤班克斯一直致力于社区科技和经济正义运动的研究工作。
　　
　　李明倩，1984年生，华东政法大学法学博士，复旦大学政治学博士后，华东政法大学外语学院副教授，主持、参与多项国家、省部级课题，曾在《中国法学（英文版）》《华东政法大学学报》《法制史研究》等核心刊物发表多篇论文、译文，专著有《<威斯特伐利亚和约>与近代国际法》，译著有《美国与国际法》《牛津国际法史手册》《美国法律体系》《因为性别》。

引言：标红警示
第一章 从济贫院到数据库
第二章 美国中部地区的福利资格自动化处理系统
第三章 天使之城的高科技无家可归服务
第四章 阿勒格尼县算法
第五章 数字济贫院
结论：拆除数字济贫院
致谢
文献和方法
索引