人工智能与法律的对话

人工智能似乎已经颠覆了我们的日常生活，判断其使用是否符合现有法律规范变得越来越困难。本书分析了人工智能给个人和社会带来的事实和法律上的挑战，讨论了应对此问题的相关基础理论，从具体应用场景出发提出了规制建议，旨在不抑制技术发展潜力的同时保留其可问责性、合法性和透明度。社交媒体、自动化决策、金融市场、公共管理、医疗保健…… 十大应用场景，法律与AI同行。通过理论与具体应用场景的实践分析，以求在机遇与风险中，发展负责任的人工智能。

本书深入研究了人工智能对法律制定、法律应用所带来的众多挑战，并在此基础上提出了相应的解决方案。第一部分探讨了规制人工智能的相关基础理论问题，并得出如下结论：在数据保护上，立法者有义务规范国家对数据的处理，规范人工智能的使用，从而尽可能保护基本权利。在个人自决上，应通过直接或间接的法律手段予以回应自动决策系统的巨大风险。在透明度上，建议借鉴相关不透明决策系统的规制经验。在反歧视上，需要从因果关系证明、弱势群体概念等内容出发，对法律进行部分调整。在法律人格上，当智能代理人承担类似老练仆人的功能时，就可以视为法律主体。第二部分从人工智能的具体应用领域出发，在具体场景中探讨人工智能的规制，并探讨了以下问题：在社交媒体中，越来越多地使用人工智工具所产生的法律问题。在法律科技中，重新构建法治并将其嫁接到技术之上的问题。在行政决定中，建立与机器学习算法相适应的内在规则问题。在智慧执法中，可问责性、非歧视以及法律执行问题。在金融市场中，人工智能技术的应用前景及其难题。在公共治理中，确定人工智能系统准则的问题。在税收程序中，从风险管理系统的角度研究接近自动化税收程序的问题。在医疗保健中，作为医疗器械的学习机器在监管中的角色、使用人工智能医疗系统时的医患关系及责任问题。在竞争法中，人工智能会产生的默契合谋、滥用市场支配地位以及卡特尔化的系统性倾向等问题。

编者[德]托马斯•威施迈耶（Thomas Wischmeyer）是比勒费尔德大学公法和信息法助理教授，讲授欧洲和德国宪法、行政法和法律理论。当前研究方向是信息安全及信息社会中的法。[德]蒂莫•拉德马赫（Timo Rademacher）是汉诺威大学公法与新技术学科的助理教授，讲授欧洲和德国的宪法、信息法。当前研究方向是大数据分析的监管框架。译者为：华东政法大学法律学院特聘副研究员韩旭至、上海市科学学研究所副研究员李辉、上海大学法学院讲师金枫梁、大连海洋大学法律与人文学院副教授王黎黎、中共上海市委党校讲师徐涛、东南大学法学院讲师余涛。

主编序/1
本书作者/1
序人工智能向善/1
导论人工智能对法律与规制的挑战
一、人工智能的应用领域/2
二、影响的程度/2
三、法律问题/4
四、治理模式/5
五、通过数字善治以履行国家责任/7
六、法律有效实施的障碍/14
七、制度及规制的类型/17
八、作为法律措施替代或补充的道德标准/22
九、论跨国法的必要性/23
第一部分规制人工智能的基础
第一章人工智能与数据保护的基本权利：为技术创新和创新保护打开大门
一、本章的目标：“打开一扇门”/38
二、为什么需要打开一扇门/39
三、如何打开大门/44
四、没有不带框架的门：立法者和法律学者的责任/50
第二章人工智能与自主：自动系统时代的自主决定
一、简介及实际应用/60
二、自动系统对自主决定的潜在风险/63
三、法律框架条件：个人自决/67
四、法律回应的可能/69
第三章人工智能和透明度：打开黑箱
一、引言/82
二、通过获取信息来产生知识/85
三、通过解释创造能动性/92
四、未来之路/98
第四章人工智能与歧视：对歧视性系统的歧视
一、引言/114
二、歧视性系统？/115
三、当前的反歧视法理论与人工智能/119
四、走向知识创造的范式/125
五、结论/128
第五章人工智能与法律人格：“部分权利能力”的引入——德国法上的“部分法律地位”
一、引言/137
二、双重困境/138
三、德国的“部分法律地位”：部分权利能力的引入/145
四、老鼠和机器/152
五、结论/153
第二部分对人工智能的规制与通过人工智能进行规制
第六章人工智能与社交媒体
一、军备竞赛和筛选偏差/164
二、现象论/166
三、社交媒体规制的概念/168
四、保护性的社交媒体规制/169
五、促进性的社交媒体规制/181
六、结论/184
第七章人工智能与法律科技：对法治的挑战
一、引言/196
二、应用领域/197
三、“法律”与“代码”之间的概念差异/201
四、宪法框架/204
五、“通过设计进行规制”的提出：一个平衡的方法/208
六、结论/213
第八章人工智能与不确定条件下的行政决定
一、引言/223
二、冲突：机器学习对阵行政法/225
三、挑战：机器学习和不确定条件下的行政活动/229
四、结论/244
附录/245
第九章人工智能与执法
一、引言：智慧执法/256
二、智慧执法的现状/257
三、宪法框架/260
四、三个主要的问题/267
五、结论/273
第十章人工智能与金融市场：照常营业？
一、金融市场中的人工智能/292
二、对金融市场中人工智能进行监管的方法/298
三、金融市场中人工智能技术的治理/302
四、人工智能与金融市场：走向新的未来/307
第十一章人工智能与公共治理：政府与公共管理中的人工智能规范性准则
一、德国政府与行政部门在人工智能治理准则设计中面临的挑战/319
二、参考点：伦理与政治的比较/323
三、指导准则/324
四、展望/330
第十二章人工智能与税收：全自动化税收程序中的风险管理
一、引言/339
二、法律基础/339
三、风险管理系统对人工智能的运用/343
四、结论/346第十三章人工智能与医疗保健：产品和程序
一、案例研究/353
二、法律框架：《欧洲医疗器械法》概述/355
三、医疗器械定义，德国《医疗产品法》第3条第1款/356
四、软件作为医疗器械的市场准入监管/357
五、软件作为医疗器械进入市场后的监管/366
六、前景/371第十四章医疗保健中的人工智能：医生、病人和责任
一、引言：医学中的人工智能/385
二、人工智能对医学伦理学中医患关系地位和作用的影响/388
三、人工智能对责任法中医患关系地位和作用的影响/392
四、医生在医患关系中的地位和作用/399
第十五章人工智能对竞争法的挑战
一、引言/413
二、人工智能/414
三、人工智能与对竞争法的挑战/415
简目/444
译后记/446