审判机器人_[以色列]加布里埃尔?哈列维著陈萍译_9787208159761

本书是以色列奥诺学院法学院哈列维教授探索人工智能刑事责任的蕞新力作，并且是用中文在全球首*。哈列维教授是国际社会中较早关注人工智能刑法问题的法学专家，他的系列文章和相关著作在全球学术界已经产生非常广泛的影响。本书试图解决的问题是，随着人工智能在商业、工业、军事、医疗和个人领域的使用日益增多，如果人工智能系统对人类社会造成损害，现有的刑法制度该如何应对？哈列维教授的答案十分明确：在世界各国现有的刑法体系中，追究刑事责任都要求事实要素和心理要素；对于这两种要素的要求，人工智能都能够符合，因此其可以承担刑事责任。对人工智能的刑事处罚，也与自然人一样，涵盖死刑、自由刑、财产刑、社区服务、缓刑。他同时强调，人工智能实体承担刑事责任，并不减少涉案自然人或法人的刑事责任，根据不同情况，可以通过间接正犯、可能的后果责任机制等对其予以追责。据此，哈列维教授阐述了一个关于人工智能刑事责任的综合性法学成熟理论，从现有刑法中识别并选择出类似原则，提出针对多元情形下各种自主技术的刑事责任的具体思考模式，并通过例举人工智能现实应用场景中可能发生的犯罪案例，据其理论做出了相应解答。

在绝大多数现代国家，自动驾驶汽车、手术机器人、工业机器人、交易算法、个人机器人和其他人工智能实体正在被普遍使用。这些用途可以是个人的、医疗的、军事的、商业的或工业的。当自动驾驶汽车涉及交通事故罪、手术机器人涉及医疗事故罪、交易算法涉及欺诈罪等情况发生之时，就会产生刑事责任问题。那么，谁应对这些罪行承担刑事责任：制造商、程序员、用户或人工智能实体本身？

技术世界瞬息万变。在从事简单活动方面，机器人和计算机正更加频繁地取代人类。只要人类仅仅将计算机当作工具，计算机和螺丝刀、汽车或电话之间就没有任何显著区别。但是，随着计算机变得越来越复杂，我们开始认为，它们为我们思考。当计算机从思考机器(thinking machine)(被编程来执行计算等特定思考过程的设备)进化成不加引号的思考机器(换言之，人工智能)之时，问题开始出现。人工智能就是机器模仿智能行为的能力。

人工智能是在计算机上模拟人类行为和认知的过程。因此，它是对整个智能思维领域本质的研究。人工智能研究开始于20世纪40年代和50年代初。从那时起，人工智能实体已经成为现代人类生活不可或缺的一部分，它的运行方式比其他普通工具复杂得多。这些实体会变成危险吗？事实上，正如上述事件所证明的那样，它们已经成为危险。

人工智能和机器人正在进入日常现代生活。目前，法院或监管部门正面临上述某些问题。但是，很少有文献全面地分析并评估具有不同程度自主权的机器人、机器或软件的责任。

涉及人工智能系统犯罪的责任概念尚未得到广泛研究。先进的技术使社会面临全新的挑战，不仅包括技术挑战，也包括法律挑战。特定情况下，人工智能系统的刑事责任理念正是这些挑战之一，应当予以深入探讨。其中的主要问题是，谁应该对涉及人工智能系统的犯罪承担刑事责任。答案可能包括程序员、制造商、用户，或许还有人工智能系统本身。

2009年，我在美国和澳大利亚发表了几篇具体探讨该问题的文章。这些文章探讨的具体内容似乎对开启该问题的学术讨论发挥了重要作用。这些文章的主要思想是，刑法不应该改变技术，而是应该主动适应现代技术的发展。我的文章还呼吁思考并反思对机器和软件赋予刑事责任的理念。也许，并不应该对机器赋予刑事责任，但是，如果刑法的基本定义没有改变，那么这一怪异的结果却是不可避免的。

我的每篇文章都获得了许多评论，对此，我需要对这一理念进行限制性概括。该理念的第一个概括是，它仅限于有形机器人，这些机器人配有人工智能软件，实施杀人罪的具体犯罪，而且并非衍生性刑事责任(derivative criminal liability)。　2013年，拙著《当机器人杀人之时》(When Robots Kill)由新英格兰大学出版社(UPNE)和东北大学出版社在美国合作出版。尽管该书是一本学术性书籍，但它的目标受众却旨在涵盖法律学者之外的广大读者。

这本书被认为是具有创新性的。《华盛顿邮报》(Washington Post)、《波士顿环球报》(Boston Globe)、《纪事评论》(the Chronicle Review)译者注：《纪事评论》(the Chronicle Review)是《高等教育纪事报》(the Chronicle of Higher Education)的下属杂志，涵盖文化、学术趋势、出版、高等教育政策和学术生活等领域。和《喧嚣》(the Hustle)译者注：《喧嚣》(the Hustle)是美国同名公司为政治、高等教育和非营利组织等领域提供的一款点对点文本消息平台。等媒体均发表过相关书评。相关评论更是不胜枚举。其中，一些评论呼吁对这一问题进行最终的、全面的学术概括，不局限于有形机器人，亦不局限于杀人罪，应涉及衍生刑事责任问题。

但是，随着机器人的使用与日俱增，更多的问题不断涌现。虽然《当机器人杀人之时》已经给出明确答案，但法律界之外的同事和科学家邀请我撰写一部新的专著。这次是关于人工智能系统。于是，拙著《涉人工智能系统犯罪的责任》(Liability for Crimes Involving Artificial Intelligence Systems)于2015年由斯普林格(Springer)出版社在欧洲出版。

10人工智能技术界对法律问题的认识也相应有所提高。很多学术论坛(文章和学术讲座)以及学术论坛之外的其他场合(包括高科技产业和志同道合之士)，都邀请我解释如何实施这些理念。现在的情况似乎是，学术界之外的公众所要求的答案，确实是官方法律系统无法提供的。

2016年和2017年，匈牙利布达佩斯脑吧(Brain Bar)译者注：脑吧节创立于2015年，融合技术会议和音乐节的年度盛大节日，专注于自由交换思想而非单向沟通，鼓励观众直接与演讲者沟通，旨在创造一个具有挑战性、智力性和包容性的环境。2018年，该活动吸引来自世界各地的10000多名参会者以及超过38000人的直播观众。公开节两次邀请我就相关问题发表演讲(2016年：涉及杀人罪的机器人；2017年：与机器人的爱与性)。2018年，鉴于超级智能和后生物学(post biology)的发展，罗马尼亚布加勒斯特的特德克斯(TEDx)邀请我就思考的未来发表演讲。当然，我还接受了很多其他邀请。每次，我都能感觉到人们对答案的渴望。这种渴望如此真实，它与我在美国和欧洲关于这个问题的学术讲座中所感受到的学术界对答案的渴望毫无差别。

2019年，上海人民出版社邀请我向中国读者介绍这些理念。不过，在此期间，人工智能已经出现了全新的发展，它们应当纳入新的专著之中。于是，本书应运而生。

我们所需要的是一本专业的学术教科书来解决这个问题，尽管它可能不太适合广大公众阅读。这本书是对这一问题最终的、全面的学术概括。这本书表达的整体理念涉及所有类型的先进人工智能系统(自主运行的系统和遵循计划的系统)的所有类型的犯罪的所有刑事责任模式(直接责任和衍生责任)。涉及这些犯罪的人工智能系统可能是主犯、共犯，也可能仅仅是犯罪工具。本书的主要观点之一是，或许至少目前尚不应当赋予技术系统刑事责任。但是，如果刑法的基本定义没有改变，那么这种怪异的结果则是不可避免的。

本书的目的是发展出关于人工智能和机器人刑事责任的综合的、一般的和复杂的法学理论。除了人工智能实体本身之外，该理论还涵盖制造商、程序员、用户和所有其他相关实体。通过对现有刑法原则的确认和类比，11该理论提出在各种合理状况下由各种自主技术承担刑事责任的具体思维方式。

第一章包括一些基本概念的探索，本书展开的后续章节均以这些概念为基础予以构建。本书讨论两个主要问题：(1)什么可以被认为是人工智能实体？(2)追究刑事责任的必要条件是什么？

因为刑法并不依赖于道德(moral accountability)，所以关于机器道德责任的争论与这些问题无关。虽然，有时刑事责任、某些类型的道德责任和某些类型的伦理责任之间存在重叠，但对于追究刑事责任而言，这只是巧合，而非必要。

刑法适用于机器的问题还涉及两个相互关联的次要问题：(1)刑事责任是否适用于机器？(2)刑事处罚是否适用于机器？

第一个问题是刑法的核心问题，是否追究刑事责任取决于是否满足刑事责任的要求。只有满足刑事责任的要求，惩罚即人类社会如何惩罚机器的问题才会出现。本书中提出的答案对这两个问题都是肯定的。第二章至第五章研究第一个问题，第六章研究第二个问题。如果接受本书中的肯定答案，那么事实上，我们已创造了一个全新的社会实体，即机械犯罪人(machina sapiens criminalis)。译者注：machina sapiens criminalis是作者原创词汇，源自machina sapiens(可译作机器智人、机械智人)。因一般在生物史学中多严格使用智人(sapiens)，通常语境亦可译作人(sapiens)，另与robot(机器人)相区别，并借鉴电影《机械姬》(Ex Machina)的内容和译法，machina sapiens在本书中译作机械人。machina sapiens criminalis是machina sapiens中的特殊主体，对应于犯罪人与人，故machina sapiens criminalis在本书中译作机械犯罪人。第一章研究机械犯罪人的出现。最后，本书的研究回答以下问题，即人工智能实体是否可以被认为应对犯罪行为承担法律责任(如果不是道德责任的话)，并应受到刑事处罚。

本书聚焦于人工智能实体的法律责任，故而并未正式涉足伦理(包括机器人伦理)和道德的相关领域。然而，本书中关于刑事责任的讨论为深入考虑相关伦理问题奠定了基础。鉴于日常生活中人工智能实体数量不断增加，这些探讨将是必要的。对此，本书构建了一个应有的框架，有助于对这些问题进行具体性和功能性的探讨。

我非常感谢上海人民出版社邀请我向中国读者介绍这些理念。另外，我非常感谢陈萍博士将书稿翻译成中文。最后，我非常感谢我的女儿们哈蕾尔和阿里尔，感谢她们一直以来与我展开硕果累累的探讨。

以色列奥诺学院(Ono Academic College)法学院教授加布里埃尔·哈列维推荐序非常高兴看到《审判机器人》的中文翻译能够成功出版。人工智能的刑事责任问题是我最早关注并将其作为重点研究主题的。近年来，本人的相关论作在国内外学术界业已形成一定规模、特色和影响。本书作者哈列维教授的很多论证和观点与我不谋而合，阅读本书时，颇有惺惺相惜、相见恨晚之感。

第一，关于人工智能社会风险的刑法应对。我的主要观点是，面对人工智能技术现在已经带来和将来可能产生的风险，刑法应发挥为社会稳定健康发展保驾护航的作用。对于智能机器人的研发者和使用者的行为，以及智能机器人产生独立意识和意志之后自主决定并实施的严重危害社会的行为，刑法的干预和刑罚的设置应保持适当的限度，既不能让滥用人工智能技术的行为破坏社会的稳定发展，又不能让刑法的过度干预阻滞人工智能技术的创新。哈列维教授也持相似观点，他在书中表达的整体理念涉及所有类型的先进人工智能系统(自主运行的系统和遵循计划的系统)的所有类型犯罪的所有刑事责任模式(直接责任和衍生责任)。书中的核心观点是也许目前尚不应当赋予人工智能实体独立的刑事责任，但随着人工智能技术的突飞猛进，将来让人工智能实体独立承担刑事责任这一结果是不可避免的。

第二，关于智能机器人的刑事责任主体地位。我的主要观点是，在弱人工智能时代，智能机器人在设计和编制的程序范围内实施严重危害社会的行为，实际上是研发者或使用者行为的延伸，应当由研发者或使用者承担刑事责任。与传统犯罪相比，研发者或使用者之间的刑事责任分配会随着智能机器人智能的增长而有所不同。智能机器人智能的增长还会影响对行为人量刑的轻重，甚至可能影响对行为人行为的性质判断。智能机器人在自主意识和意志的支配下超出设计和编制的程序范围实施严重危害社会的行为时，应将其作为刑事责任主体进行刑罚处罚。对此，哈列维教授从犯罪事实要素和心理要素要求的角度，分别论证(1)强人工智能实体(即自主运行的人工智能系统)不但能够符合犯罪事实要素(行为、情节、后果)的要求，同时也能够符合心理要素(故意、过失、严格责任)的要求，应当独立承担刑事责任。在此基础上，哈列维教授还进一步探讨了一般抗辩对人工智能系统的适用性问题。(2)弱人工智能实体(即不能自主运行的人工智能系统)由于不具有犯罪所要求的形成心理要素的能力，不能独立承担刑事责任。对此，人工智能实体和自然人共同犯罪时的责任分配，哈列维教授认为可以适用间接正犯、可能的后果责任等理论。

第三，关于智能机器人刑罚处罚的机制配置。我的主要观点是，我国现有刑罚体系是由生命刑、自由刑、财产刑和权利刑构成，刑罚处罚对象及刑罚处罚方式均无法也不能涵括智能机器人。重构我国刑罚体系并将智能机器人纳入刑罚处罚的范围符合刑罚的目的，同时也符合人工智能时代发展的需要且并未违背基本法理。建议增设能够适用于智能机器人的删除数据、修改程序、永久销毁等刑罚处罚方式，并在条件成熟时增设适用于智能机器人的财产刑或者权利刑等刑罚处罚方式。哈列维教授则是从现有的死刑、监禁、缓刑、公共服务和罚金等刑罚制度出发，论证这些刑罚适用于人工智能实体的可行性。

本书中，哈列维教授对每章的论述都契入了人工智能现实应用场景中可能发生的犯罪案例，并提供了各个案例的理论解答。这种论证方式使得原本稍显晦涩的教科书类学术书籍，更加活泼生动，更加便于理解，也更加适合非专业的广大读者。

总体而言，本书的整体论证全面而系统，理论构建深入而细致，引用案例丰富而经典。我相信，这本译著的出版十分有助于推动国内学者对哈列维教授理论的认知，十分有助于拓宽国内学者对人工智能与刑法关系问题的研究视野，十分有助于促进国内外有识之士学术互动的进一步深入。人类社会正处于承旧时代在前、启新时代于后的弱人工智能时代，回顾、梳理、展望人工智能与刑事责任的昨天、今天与明天，不仅可能，且意义重大。

本书译者陈萍博士在南京大学法学院连续接受法学本科、硕士和博士教育，具有牢固的法学理论基础，同时，两次赴法深造，精通英语和法语，能够潜心钻研学术。我是陈萍博士的博士后合作导师，经过这两年的师生交流，我对她的学术能力和学术态度非常肯定。她的翻译行文流畅、逻辑分明，显示出良好的遣词造句功力，我深以为可。期待她能以本次翻译为契机，继续深度拓展人工智能与刑法关系问题的研究。

是为序。

刘宪权华东政法大学刑事法学研究院院长，教授，博士生导师2019年5月20日于上海

你还可能感兴趣

我要评论