驯服算法 数字歧视与算法规制

算法规制权威解读

算法规制的目标无他：其一，警惕本来应当是中立的智能应用，被用来掩饰未取得“多数人同意”的少数人集权；其二，建立利益相关者对话和商谈的场域，避免法律沦为“技术寡头”的帮凶。本书从凯伦·杨“跳出‘数据道德’或‘AI道德’窠臼”以寻求“数据驱动机器时代正义、民主和自由”的主张开始，以李·拜格雷夫“将数据保护法的价值观贯彻进信息系统架构之中”的倡导结束，中间穿插着马丁·洛奇等学者对“风险导向监管路径”的反思与改进；这背后是“自然人正义观”与“算法正义观”从排斥到融合、“个人数据保护”与“技术公共利益”从对立到统一的艰苦历程。本书英文版虽出版于新冠疫情爆发之前，但作者们从不同角度对“算法规制”的路径探寻，无不包含着从“个人健康”促进“社会健康”的现实隐喻，以及人本主义“责有攸归”的道德哲学，对我国“国家治理体系和治理能力现代化”以及疫情常态化下慎终如始“科学防治、精准施策”的稳步推进有着深刻的启发和借鉴意义。

凯伦·杨：英国牛津大学法学博士，英国伯明翰大学法学院和计算机学院的跨学科教授，墨尔本大学法学院杰出访问研究员，欧盟人工智能高级别专家组成员、欧洲犯罪问题委员会（CDPC）人工智能和刑法专家工作组特别顾问。

主编序/1
中文版序/1
第一章算法规制：述略
1.引言/1
2.何为算法规制？/4
3.是否有新发现？/6
4.理解作为一种复杂“社会—技术”系统的算法规制/8
5.本书的结构和内容/13
第一部分规范性问题
第二章自动化决策，何忧之有？
1.引言/21
2.自动化决策系统之忧/23
3.数据导向型预测和个性化信息服务/32
4.应对之法：聚焦正义、权利、过错、危害/36
5.结论/40
第三章自动化决策及其对人类的影响
1.引言/50
2.自动化决策：科技/53
3.刑事司法领域的机器学习/58
4.结论/74
第四章数字歧视
1.引言/89
2.数字歧视样例/94
3.数据歧视解决方案之研究/96
4.数字歧视未解之患/99
5.结论/102
第五章日常生活中算法外包的伦理
1.引言/106
2.了解算法工具/108
3.算法工具会削弱自主性吗？/111
4.但这一回有何不同？/119
5.我们该如何应对？/123
6.结论/125
第二部分公共部门应用
第六章算法行政？公共管理与机器学习
1.引言/133
2.自动化系统/135
3.增强系统/137
4.算法社会化的学术讨论/139
5.管理公共管理部门的机器学习应用/140
6.结论/154
第七章公共服务中算法规制的实际挑战
1.引言/166
2.数据在监管中的作用/168
3.风险评估/170
4.案例一：“智能监管”与护理质量委员会/176
5.案例二：英国教育质量保证局的监管实践/179
6.算法评定的必要条件/188
7.结论/190
第八章公共服务中算法规制的反思
1.引言/198
2.监管能力与算法规制/201
3.用算法规范公共服务/205
4.谁来监管算法？/214
5.结论/216
第三部分管理算法系统
第九章算法、规则和治理准备
1.引言/225
2.政府准备/228
3.算法的危害和它们的治理挑战/232
4.评估治理准备/236
5.结论/239
第十章法律从业者视角下的人工智能风险规制
1.引言/250
2.机器学习带来的法律挑战/251
3.数据的作用/258
4.人工智能风险规制：合同的进路/261
5.促进合规的合同条款/264
6.公司治理依赖自然人决策/267
7.监管模型/268
8.结论/273
第十一章关注机器2.0时代：欧盟《通用数据保护条例》和自动化决策
1.引言/277
2.关注机器1.0时代/278
3.《通用数据保护条例》第22条/280
4.复盘机器1.0时代/285
5.驯服机器？/288
参考文献/298
立法索引/339
关键词索引/342
译后记/353