算法的野心_吉尔·勒珀_9787580700575_北京普习文化传播有限公司

冷战期间成立的动模公司，在Facebook、Google和Cambridge Analytica成立之前的几十年里就开始挖掘数据、锁定选民、操纵消费者、扰乱政治、混淆人们的认知。

作者吉尔·莱波雷在麻省理工学院的档案馆里偶然发现了这家公司的论文，并着手讲述这段被遗忘的历史。

当时，科学家们提出了用计算机模拟未来的计划，并建造了一个人的机器，目的是模拟从购买洗碗机到镇压叛乱到投票的所有事情。动模公司在纽约、华盛顿、剑桥甚至西贡部署人机，其客户包括约翰·肯尼迪总统竞选团队、纽约时报、国防部，还有几十家主要的制造商：动模参与了从政治种族到越战，再到约翰逊政府预测种族骚乱的不祥企图。

由于被控造假，甚至被指控犯有战争罪，它在1970年关门，几乎消失。

这段历史有它的过去；但它将警示现在和未来。

【前言/序言】：

序言
如果……？

动模公司（the Simulmatics Corporation）的科研人员在长岛一座网格球形大圆顶下面的沙滩上度过了1961年的夏天，这个圆顶看起来就像一艘降落于此并埋伏在沙丘中的宇宙飞船。房子里面，他们把数学公式写在黑板上，指尖沾满了粉笔灰。带孔的计算机打印纸在地板上铺得到处都是。
动模公司冷战时代的美国版剑桥分析声称正是他们让约翰肯尼迪在1960年11月登上了总统宝座。几个月后，公司的科研人员又在海边花了一夏天开发新项目：他们设计了一个能预测和操控人类行为的计算机程序，所有的人类行为都包括，从买洗碗机、镇压叛乱到投票，不一而足。他们将其命名为人机（People Machine）。
如今没什么人还记得动模公司，几乎一个都没有了。但就在那座蜂窝状大圆顶下，这家早已消失的美国公司的科研人员帮忙制造的机器，到了21世纪，会让人类发现自己被困在它里面并备受折磨：被扒光，失魂落魄，被剥夺了感知力，被阻断，被剥削，被支使，被连在一起又被断了联系，被买卖，被疏远和胁迫，被弄得晕头转向，被误导，甚至被统治。可他们从未有意伤害任何人。
他们都是年轻人，出类拔萃，才华横溢，就像用羽毛和蜡做成翅膀飞向太阳的伊卡洛斯。这些科研人员来自麻省理工、耶鲁、哈佛、哥伦比亚和约翰霍普金斯大学，《纽约时报》报道说，他们正准备用电子计算机工作，这种巨大的提问应答设备已经投入使用多年，但这回他们要用社会和经济数据以及自己的知识来开发新的计算机模拟程序，这项技术的名称指的就是将一组特定情境中的所有可能性全部演示出来。他们用一种新的语言FORTRAN来编写，用一种被称为如果/那么语句指示计算机一遍又一遍地模拟各种不同情况下可能采取的行动并计算行动结果。如果是这样，那么就是那样。如果是这样，那么就算那样。如果是这样，那么就是那样，结果无穷无尽。
那年夏天，他们把妻子和孩子也带到了那片海滩。男人们穿着泳裤和马球衫，琢磨打孔的卡片；女人们穿着夏装和凉鞋，做土豆沙拉、金枪鱼沙拉、烤肉、通心粉沙拉、火腿沙拉、炖菜和一堆堆带穗的玉米；他们的孩子一共17个在海里蹚水、堆沙堡、玩海边的卡米洛特、驾着太阳鱼单桅帆船，在沙滩和海湾之间蹦跳着追逐一只名叫斯普特尼克的黑色贵宾犬。孩子们被晒伤了，很严重，晚上他们的妈妈给他们浇醋，让皮肤降温，结果他们闻起来像泡菜。下雨天，他们就玩大富翁，从公园广场一路跳到巴俄铁路，每次跳过轮换格都能得200美元，并像每个大富翁玩家一样尽可能别进监狱。妻子们交换着看平装本的《冷暖人间》（Peyton Place），这是一本关于性和女性抗争的情爱小说，书页因为潮湿而变得皱巴巴的。每个人、每样东西都是一身沙子，仿佛只要呆得够久，他们总有一天会像古埃及人那样被沙子埋葬。
太阳东升西落，日复一日，但仍然没有人真的知道接下来会发生什么。在这个充满无尽不确定性的世界里，对未来的预测从最古老的人类社会就开始了。希腊人为德尔菲神谕建造神殿；印加人在帕查卡马克修建神庙。佛/教徒、穆/斯/林、基/督/教/徒、犹/太/教/徒，每种宗/教、每种文化都有自己的先知、庙宇、占卜者、预兆解读者和先见者。几个世纪，几千年，时光飞逝。然后，从20世纪中叶开始，美国人造起了机器，让其成为他们的神谕、新的先见者、电子先知和数据占卜者。
动模公司成立于1959年，在纽约、华盛顿、坎布里奇都开设了办事处，1970年宣布破产前的最后一个办事处建在了西贡。这个公司始终笼罩在阴谋论里。这在一定程度上是无意的。围绕动模公司的谜团，是从它的名字开始的，董事长有一次对股东解释说，我们把模拟（simulation）和自动（automatic）这两个词结合，得到了这个名字。创始人希望这个名字能像控制论（cybernetics）一样成为口号、代名词，但事与愿违。从动模一词的晦涩难懂可以想见公司有多失败，不过倒是很好地体现了他们的野心：自动实现人类行为的模拟。
动模公司的科研人员基于这样一个命题采取了行动，即如果能从足够多的人那里收集到足够多的数据并输入机器，那么总有一天，一切都或许是可预测的，每个人、每个人的想法都能被模拟出来，每个行为都能预期而且是自动的；甚至被像导弹一样精准无误的定向信息所驱使和指引。可以说，脸书、帕兰提尔、剑桥分析、亚马逊、互联网研究所、谷歌都是从这里，从这片灰绿色的大海边的蜂窝状球形大圆顶底下孵出来的，就像鸡蛋一样。
动模的科研人员被称为假想者（What-If Men）。他们相信他们的人机可以通过模拟人类行为帮我们规避一切灾难。它可以打败共产主义。它可以镇压叛乱。它可以赢得选举。它可以卖漱口水。它可以加速消息的传播，就像安非他命一样。它可以安抚躁怒的妻子。它可以通过锁定民心来赢得越战。它可以预测种族骚乱乃至瘟疫的流行。它可以终结混乱。动模公司的科研人员相信他们发明了社会科学的原子弹。他们没有预测到的是，这东西要几十年才能引爆，就像一颗埋了很久的手雷。
不过，即使在当时，人机对很多人来说也像是某种疯病或者敌托邦到来的前兆。1964年，动模公司成了两部噩兆小说的主题。尤金伯迪克的政治惊悚小说《480组》（The 480）几乎毫不掩饰地描写了名为模拟的一家公司是如何利用笨重、邪恶的IBM计算机干预1964年美国总统大选的。而在丹尼尔加卢耶的一部背景设定在2033年的科幻小说《幻世-3》（Simacron-3）里，模拟电子学（simulectronics）领域的专家造出了一台人机一台全环境模拟器却发现他们自己并不存在，而只是另一台人机的埃舍尔式的虚幻发明。此后，动模公司在小说或电影中继续以匿名化身的形式存在。1973年，德国先锋电影制作者赖纳维尔纳法斯宾德将《幻世-3》改编成电影《电路世界》（World on a Wire），这部令人恐惧的未来主义杰作堪称1999年的电影《黑客帝国》的先驱，片中，全人类都生活在模拟世界，在封锁、围困和哄骗中丧失了人性；《黑客帝国》的主人公试图解放全人类，他将偷来的软件藏进一本掏空的书里，而这本书正是让鲍德里亚1981年出版的《拟象与模拟》（Simulacra and Simulation）一部关于无意义的模拟地狱的元文本。
在小说和电影中，从弗兰肯斯坦博士到杰基尔博士最后到奇爱博士的转变，一如疯狂的科学从生物学转向化学再转向物理学。但动模公司在小说和电影里的化身计算机领域的疯狂科学家只是一个很小的人被极度扩大和拉长的影子罢了。《480组》里的模拟公司是一家巨型企业，《幻世3》中的模拟电子学专家都是科技天才。而真实的动模公司却是个苦苦挣扎的小微企业，技术人员粗枝大叶，账目也一塌糊涂。公司大起大落，像一个氦气球。就连那座网格球形大圆顶建筑也变成了太空汉堡（Space Burger），一家免下车的汉堡连锁店。
尽管如此，动模公司在预测分析、假设模拟、行为数据学方面的遗产仍然存在，它潜藏在每台设备的屏幕后面。动模公司没能挽回自己的失败，但它帮忙创造出了一个对数据狂热且近乎极权主义的21世纪；在那里，唯一有用的知识就是预测，企业通过收集数据、操纵关注点和预测盈利来获取财富，不管是在新冠病毒到来前还是后。最后，颇为讽刺的是，过去几乎已被抹掉的动模公司帮忙创造出了一个痴迷于未来却没法让它变好的未来。
动模公司的起源还要更早，可以追溯到20世纪早期的心理战领域通过攻击、干扰和分散注意力的方式控制人的思维。动模公司的科研人员将这项成果带入了1950年代，即现代计算机时代，带入了选举政治中1960年总统竞选期间，当时是受民主党全国委员会的委托，然后又带入了有针对性的广告领域。后来，他们还漂洋过海把它带到了越南，直到学生游行抗议，称他们为战犯。
如果动模公司的科研人员是恶棍，那会容易些，令人安慰，没那么不安，然而他们不是。他们只是20世纪中叶的一群自由派白人，活在一个没人指望他们理解非白人或非自由派人士的时代。他们是丈夫和父亲，活在一个没人要求男人去理解女人和孩子的时代。而所谓的人类行为，指的就是男人的行为；所谓的人工智能，指的就是他们自己的智能或者说对他们自己的智能的幻想他们打算将其移植到机器上。他们不认为女性的智慧是智能；也不把女性对人类行为的理解视为知识。
他们制造了一台机器来操控和预测他们不能操控和预测的东西。他们是马克扎克伯格、谢尔盖布林、杰夫贝佐斯、彼得泰尔、马克安德森和埃隆马斯克仙逝已久的白胡子祖父。动模公司是科技史上缺失的一段，是把20世纪上半叶与21世纪初紧紧连起来的一环，而21世纪是未来，人类的一切行为都能用算法预测，这算法也通过对我们的模拟反过来指引和影响我们的每个决定。这不啻地狱。
如果在1950年代和1960年代，情况有所不同，那么这个未来或许能避免。如果历史走上了不同的道路，那么人性或许不会低劣，人文知识或许仍被珍视，民主可能会变得更强而不是更弱。不过一切也可能没什么不同。这种事我们无从得知。没有能反向运行如果/那么程序、计算所有可能的过去的机器。历史无法回答如果……？这样的问题，但可以解释发生了什么以及为什么。
动模公司创造的未来有一个过去，一段被时间的潮水冲走就像沙堡的历史。我们只能一点点拼凑起来，一道护墙一个城垛、一堵城墙一座炮塔地重现它冲天无畏的每一处特征。

（节选，正式内容以纸质出版物为准）

你还可能感兴趣

我要评论