推荐序

非常高兴看到《审判机器人》的中文翻译能够成功出版。人工智能的刑事责任问题是我最早关注并将其作为重点研究主题的。近年来，本人的相关论作在国内外学术界业已形成一定规模、特色和影响。本书作者哈列维教授的很多论证和观点与我不谋而合，阅读本书时，颇有惺惺相惜、相见恨晚之感。

第一，关于人工智能社会风险的刑法应对。我的主要观点是，面对人工智能技术现在已经带来和将来可能产生的风险，刑法应发挥为社会稳定健康发展保驾护航的作用。对于智能机器人的研发者和使用者的行为，以及智能机器人产生独立意识和意志之后自主决定并实施的严重危害社会的行为，刑法的干预和刑罚的设置应保持适当的限度，既不能让滥用人工智能技术的行为破坏社会的稳定发展，又不能让刑法的过度干预阻滞人工智能技术的创新。哈列维教授也持相似观点，他在书中表达的整体理念涉及所有类型的先进人工智能系统（自主运行的系统和遵循计划的系统）的所有类型犯罪的所有刑事责任模式（直接责任和衍生责任）。书中的核心观点是也许目前尚不应当赋予人工智能实体独立的刑事责任，但随着人工智能技术的突飞猛进，将来让人工智能实体独立承担刑事责任这一结果是不可避免的。

第二，关于智能机器人的刑事责任主体地位。我的主要观点是，在弱人工智能时代，智能机器人在设计和编制的程序范围内实施严重危害社会的行为，实际上是研发者或使用者行为的延伸，应当由研发者或使用者承担刑事责任。与传统犯罪相比，研发者或使用者之间的刑事责任分配会随着智能机器人“智能”的增长而有所不同。智能机器人“智能”的增长还会影响对行为人量刑的轻重，甚至可能影响对行为人行为的性质判断。智能机器人在自主意识和意志的支配下超出设计和编制的程序范围实施严重危害社会的行为时，应将其作为刑事责任主体进行刑罚处罚。对此，哈列维教授从犯罪事实要素和心理要素要求的角度，分别论证（1）强人工智能实体（即自主运行的人工智能系统）不但能够符合犯罪事实要素（行为、情节、后果）的要求，同时也能够符合心理要素（故意、过失、严格责任）的要求，应当独立承担刑事责任。在此基础上，哈列维教授还进一步探讨了一般抗辩对人工智能系统的适用性问题。（2）弱人工智能实体（即不能自主运行的人工智能系统）由于不具有犯罪所要求的形成心理要素的能力，不能独立承担刑事责任。对此，人工智能实体和自然人“共同”犯罪时的责任分配，哈列维教授认为可以适用间接正犯、可能的后果责任等理论。

第三，关于智能机器人刑罚处罚的机制配置。我的主要观点是，我国现有刑罚体系是由生命刑、自由刑、财产刑和权利刑构成，刑罚处罚对象及刑罚处罚方式均无法也不能涵括智能机器人。重构我国刑罚体系并将智能机器人纳入刑罚处罚的范围符合刑罚的目的，同时也符合人工智能时代发展的需要且并未违背基本法理。建议增设能够适用于智能机器人的删除数据、修改程序、永久销毁等刑罚处罚方式，并在条件成熟时增设适用于智能机器人的财产刑或者权利刑等刑罚处罚方式。哈列维教授则是从现有的死刑、监禁、缓刑、公共服务和罚金等刑罚制度出发，论证这些刑罚适用于人工智能实体的可行性。

本书中，哈列维教授对每章的论述都契入了人工智能现实应用场景中可能发生的犯罪案例，并提供了各个案例的理论解答。这种论证方式使得原本稍显晦涩的教科书类学术书籍，更加活泼生动，更加便于理解，也更加适合非专业的广大读者。

总体而言，本书的整体论证全面而系统，理论构建深入而细致，引用案例丰富而经典。我相信，这本译著的出版十分有助于推动国内学者对哈列维教授理论的认知，十分有助于拓宽国内学者对人工智能与刑法关系问题的研究视野，十分有助于促进国内外有识之士学术互动的进一步深入。人类社会正处于承旧时代在前、启新时代于后的弱人工智能时代，回顾、梳理、展望人工智能与刑事责任的昨天、今天与明天，不仅可能，且意义重大。

本书译者陈萍博士在南京大学法学院连续接受法学本科、硕士和博士教育，具有牢固的法学理论基础，同时，两次赴法深造，精通英语和法语，能够潜心钻研学术。我是陈萍博士的博士后合作导师，经过这两年的师生交流，我对她的学术能力和学术态度非常肯定。她的翻译行文流畅、逻辑分明，显示出良好的遣词造句功力，我深以为可。期待她能以本次翻译为契机，继续深度拓展人工智能与刑法关系问题的研究。

是为序。

刘宪权

华东政法大学刑事法学研究院院长，教授，博士生导师

2019年5月20日

于上海