人工智能伦理与安全

"（1） 由院士领衔，由高校、企业、政府多方参与编写，既有理论创新，又有案例实践，填补了国内人工智能伦理与安全领域在人、信息、物理这三个要素上的可信方面研究的空白。 （2） 对人工智能伦理规范建设、人工智能法律法规建设和安全可信人工智能这三个重点进行了系统、全面、深入且富有开创性的研究与探索，对目前人工智能基础理论创新和产业赋能应用都有极强的指导作用和实践价值。 （3） 内容系统化、知识覆盖广、思考有深度、建议可操作，对广大人工智能行业从业者、学者及在校学生大有裨益。 "

本书从四个角度对人工智能伦理与安全的相关议题进行了深入探讨：①研究人工智能伦理与安全的必要性和紧迫性，涉及我国人工智能发展战略解读、人工智能伦理准则，以及安全法规的产生背景与发展脉络；②业界在人工智能伦理与安全领域的研究思路与理论成果，包含安全可信人工智能、人工智能时代的隐私与监控、人工智能与信息安全等内容；③人工智能技术对各行各业产生的社会性影响与相应的应对之策，涵盖人工智能与就业机会、人工智能系统的偏见、无人驾驶的法律责任、人工智能造假与欺骗，以及人工智能武器化等角度；④人类与强人工智能、机器人之间的相处风险与规避建议，主要从机器人的“人权”与道德、人工智能技术奇点这两个方向展开讨论。
本书既为行业从业者提供了前瞻性视野和产业应用观，也兼顾教学要求，提供了基础知识及行业应用的系统体系，为读者树立了产业观、职业观、技术观、价值观，同时跟进了近年来人工智能发展的最新成果、最新思维及面临的社会伦理问题与安全挑战，填补了业内对人工智能伦理与安全领域系统研究的空白。
本书内容系统化、知识覆盖面广、思考有深度、建议可操作，对广大人工智能行业从业者、学者及在校学生大有裨益。

主编：沈寓实，博士，MBA，教授，国家“千人计划”特聘专家，北京市“海聚工程”特聘专家，长期致力于推进网络空间基础核心技术的自主创新，并构建中美科技、商务和文化的广泛合作。

第1章我国人工智能发展的战略定位与发展思路001
1.1AI的溢出带动“头雁”效应002
1.2AI需统筹谋划与协同创新005
1.3AI的基础理论与算法研究应先行007
1.4抓住关键核心技术占领制高点010
1.5加强人工智能与产业发展融合013
1.6AI应当以保障和改善民生为主线015
1.7AI发展的潜在风险研判和防范017
1.8在发展AI过程中解决伦理与安全问题021
第2章人工智能的产生与发展025
2.1人工智能的起源与发展025
2.2人工智能的定义与流派033
2.2.1逻辑主义034
2.2.2贝叶斯派035
2.2.3联结主义035
2.2.4行为类比主义036
2.2.5进化主义036
2.3人工智能的细分领域037
2.3.1人工智能研究分支037
2.3.2人工智能技术架构039
2.4人工智能的行业应用041
2.4.1智慧医疗041
2.4.2智慧金融045
2.4.3智慧教育056
2.4.4智慧城市062
2.5探索下一代的人工智能发展方向064
第3章人工智能伦理概述065
3.1IEEE发布的《人工智能设计的伦理准则》065
3.2机器道德067
3.2.1为人工智能赋予道德主体地位068
3.2.2人工智能道德主体地位之批判069
3.3伦理风险评估071
3.3.1人工智能威胁用户隐私安全071
3.3.2人工智能侵犯用户生命财产等合法权益073
3.3.3人工智能动摇人公平参与社会活动，享有社会资源的权利073
3.3.4人工智能干涉人类对自我意识与行为的判断决策，动摇人的独立自主性074
3.3.5数字化劳动相关权利问题074
3.3.6进一步加深数字鸿沟076
第4章安全可信人工智能077
4.1人工智能信任危机077
4.2人工智能的“安全”078
4.2.1技术安全078
4.2.2应用安全080
4.2.3法律与伦理安全080
4.3人工智能的“可信”081
4.3.1G20人工智能原则081
4.3.2欧盟人工智能原则084
4.3.3可信人工智能的关键问题087
4.3.4可信人工智能的关键技术090
4.3.5伦理、法规与可信人工智能091
4.3.6小结092
4.4联邦学习092
4.4.1联邦学习简介092
4.4.2横向联邦学习094
4.4.3纵向联邦学习097
4.4.4联邦迁移学习099
4.4.5联邦学习的应用101
4.4.6小结103
第5章人工智能与社会治理104
5.1智能化社会治理——算法即规则的提质升级104
5.1.1算法即规则的原理与应用104
5.1.2智能化社会治理的主要挑战议题105
5.1.3智能化治理的公共政策创新109
5.2协同化社会治理——以伦理为先导的社会调控110
5.3生态化社会治理113
5.4法治化社会治理114
5.4.1以安全为核心的立法体系114
5.4.2深度优化制度设计116
5.4.3以法律为主导的风险控制117
5.5探索人工智能社会治理的中国方案119
5.5.1基础理论研究119
5.5.2关键核心技术120
5.5.3平台与设施建设121
5.5.4监管合规保障121
5.5.5高等人才培养122
5.5.6理念与模式创新122
5.5.7全球合作共治123
第6章人工智能时代的隐私与监控125
6.1基于用户数据的人工智能建模125
6.1.1大数据的产生125
6.1.2大数据的应用127
6.1.3人工智能服务个性化131
6.2人工智能安防134
6.2.1人工智能安防生态134
6.2.2计算机视觉与身份验证136
6.2.3视频结构化与快速检索137
6.2.4行为分析辅助安防应用140
6.2.5多维度安防大数据分析140
6.3人工智能舆情监控142
6.3.1事件识别、发现与跟踪142
6.3.2企业舆情与政府舆情143
6.3.3舆情监控与融媒体145
6.4人工智能与数据隐私147
6.4.1隐私和隐私权的界定147
6.4.2保护数据隐私的建模手段148
6.4.3边缘计算与数据隐私149
6.4.4可解释的人工智能152
6.5人工智能时代的隐私保护政策153
6.5.1美国的数据隐私保护法律153
6.5.2欧盟的《通用数据保护条例》156
6.5.3其他国家数据隐私保护政策分析157
6.5.4中国数据隐私保护政策160
第7章人工智能与信息安全163
7.1网络攻击与防御163
7.1.1网络安全的主要威胁因素164
7.1.2黑客常用的攻击手段166
7.1.3网络安全常用的防御手段167
7.2基于人工智能的网络攻击169
7.2.1输入数据的对抗性攻击170
7.2.2可信的AI系统的挑战172
7.3基于人工智能的网络防御173
7.3.1可信系统的增强173
7.3.2预测性态势分析174
7.3.3自主化网络防御174
7.3.4AI网络的人机交互175
7.4人工智能安全标准体系176
7.4.1人工智能安全标准体系介绍176
7.4.2人工智能基础安全标准176
7.4.3人工智能数据、算法和模型安全177
7.4.4人工智能技术与系统安全标准178
7.4.5人工智能管理与服务安全标准179
7.4.6人工智能测试评估安全标准179
7.4.7人工智能测试产品和应用安全标准179
7.5人工智能时代的网络技术发展180
7.5.1人工智能引入的必要性181
7.5.2人工智能网络应用场景181
第8章人工智能与就业机会183
8.1被人工智能取代的工作183
8.1.1第一产业184
8.1.2第二产业185
8.1.3第三产业189
8.2人工智能创造的新就业机会194
8.2.1基础层195
8.2.2技术层195
8.2.3应用层196
8.3人工智能对贫富差距的影响197
8.3.1人工智能的发展可扩大劳动群体间的收入距离197
8.3.2人工智能发展短期可能影响劳动者的就业公平198
8.3.3人工智能的发展加剧社会资源的贫富差距199
8.4人工智能时代下的人力资源管理200
8.4.1人工智能促进人力资源的高效性管理200
8.4.2人工智能对企业管理的影响201
8.5人工智能时代下关于就业的思考203
8.5.1从达特茅斯的野望到人类最后的阵地203
8.5.2技术是手段，而不是目标204
第9章人工智能系统的偏见205
9.1人工智能时代的算法偏见206
9.1.1人工智能系统中的算法偏见概述206
9.1.2人工智能算法偏见的主要表现和特点207
9.1.3人工智能算法偏见产生的原因209
9.1.4人工智能算法偏见的后果211
9.2人工智能偏见的治理策略212
9.3人工智能决策的透明性214
9.3.1人工智能算法“黑箱”问题214
9.3.2算法透明性与利益相关者215
9.4人工智能决策的可解释性218
9.4.1人工智能可解释性概述218
9.4.2解释人工智能模型的技术手段219
9.5人在回路的人工智能220
第10章无人驾驶系统的法律责任223
10.1无人驾驶系统概述223
10.1.1无人驾驶系统的概念224
10.1.2无人驾驶系统的智能化分级225
10.1.3无人驾驶发展的意义226
10.2无人驾驶系统对现行法律制度的挑战227
10.2.1无人驾驶交通事故侵权责任228
10.2.2无人驾驶交通事故保险责任229
10.2.3无人驾驶风险的监管缺失231
10.3无人驾驶侵权责任体系重构233
10.3.1无人驾驶侵权责任主体233
10.3.2无人驾驶交通侵权责任构造235
10.3.3无人驾驶的产品责任构造237
10.4无人驾驶的保险体系240
10.4.1汽车交通事故责任强制保险241
10.4.2商业险与产品责任险242
10.5无人驾驶的监管政策考量242
10.5.1我国现有的监管制度243
10.5.2域外监管244
10.5.3我国的无人驾驶监管247
第11章人工智能造假与欺骗251
11.1人工智能造假与欺骗的起源与危害251
11.2人工智能造假与欺骗的主要类型253
11.2.1人脸深度伪造253
11.2.2语音造假255
11.2.3人脸识别欺骗257
11.2.4目标检测欺骗258
11.2.5自动驾驶欺骗260
11.3针对人工智能造假与欺骗的监管政策262
11.4针对人工智能造假与欺骗的检测防御265
11.4.1深度伪造检测265
11.4.2对抗样本检测266
11.4.3模型后门检测267
第12章人工智能武器化269
12.1人工智能军备竞赛269
12.1.1美国人工智能武器的发展271
12.1.2俄罗斯的人工智能武器发展277
12.1.3中国的人工智能武器发展282
12.1.4其他国家的人工智能武器发展284
12.2国际人道法对人工智能武器的原则性规制285
12.2.1国际人道法的原则和规则286
12.2.2伦理方面的要求287
12.2.3结论288
12.3《禁止致命性自主武器宣言》概述288
第13章机器人的“人权”与道德292
13.1机器人“人权”的内涵292
13.1.1什么是机器人292
13.1.2什么是人权294
13.1.3机器人的“人权”295
13.2为什么赋予机器人“人权”296
13.2.1历史的视角296
13.2.2本体论视角297
13.2.3关系视角299
13.3赋予机器人什么样的人权299
13.4如何教会机器人道德300
13.4.1机器人的道德困境300
13.4.2人类为教会机器人道德而进行的不懈努力301
13.4.3教会机器人道德的具体路径302
第14章技术奇点304
14.1什么是技术奇点304
14.1.1奇点和技术奇点304
14.1.2加速回报定律305
14.1.3奇点或将到来307
14.2奇点临近308
14.2.1从人工智能到通用人工智能308
14.2.2通用人工智能的风险310
14.2.3通用人工智能风险的应对之策313
14.3人类的下一个一万年316
14.3.1思考一些可能的场景316
14.3.2保持对未来的思考319
参考文献321