脉冲神经网络原理及应用

脉冲神经网络应用准确定时的脉冲序列表示与处理信息，是新一代人工神经网络计算模型。本书系统论述了脉冲神经网络的基本理论、算法及应用。首先介绍了脉冲神经网络的基础知识，包括脉冲神经元的建模与分析、脉冲神经网络的模拟策略、神经信息的编码方法、脉冲序列的相似性度量方法等；其次讨论了脉冲神经网络的学习算法、进化发育方法以及文化学习等；最后以图像分割和图像识别为例，分析了脉冲神经网络在图像处理领域中的应用。

前言
第1章 脉冲神经网络概述 1
1.1 引言 1
1.2 人工神经网络及其发展 2
1.2.1 生物神经系统及构成 2
1.2.2 人工神经网络的定义 4
1.2.3 人工神经网络的发展 5
1.3 脉冲神经网络的研究现状 10
1.3.1 脉冲神经网络的拓扑结构 10
1.3.2 信息的脉冲序列编码方法 14
1.3.3 脉冲神经网络的学习算法 15
1.3.4 脉冲神经网络的进化方法 18
1.4 脉冲神经网络的应用领域 18
1.4.1 信息领域中的应用 19
1.4.2 生物医学领域中的应用 19
1.4.3 社会经济领域中的应用 20
1.4.4 其他领域中的应用 20
参考文献 21
第2章 脉冲神经元的建模与分析 27
2.1 引言 27
2.2 生物神经元结构及脉冲发放 27
2.2.1 生物神经元的基本结构 28
2.2.2 神经元脉冲的发放过程 29
2.3 脉冲神经元的建模方法 32
2.3.1 神经元的房室建模方法 32
2.3.2 脉冲神经元的建模层次 34
2.4 单房室脉冲神经元模型 36
2.4.1 生物可解释性的生理模型 36
2.4.2 脉冲生成机制的非线性模型 39
2.4.3 固定阈值的脉冲发放模型 41
2.4.4 分段线性化的解析模型 45
2.5 神经元的神经计算特性 50
2.5.1 生物神经元的神经计算特性 50
2.5.2 脉冲神经元模型的分析比较 52
2.6 生物皮层神经元的模拟 54
2.6.1 生物皮层神经元 54
2.6.2 模拟结果与比较 57
2.7 本章小结 58
参考文献 59
第3章 脉冲神经网络的模拟策略 64
3.1 引言 64
3.2 脉冲神经网络模拟及分类 65
3.2.1 脉冲神经元的混合系统表示 65
3.2.2 脉冲神经网络模拟策略分类 65
3.3 时钟驱动模拟策略及分析 66
3.3.1 神经元模型的数值计算方法 66
3.3.2 时钟驱动模拟的算法描述 67
3.3.3 时钟驱动算法的时间复杂度 68
3.4 事件驱动模拟策略及分析 70
3.4.1 事件驱动模拟的算法描述 70
3.4.2 事件驱动算法的时间复杂度 73
3.4.3 事件驱动模拟策略的发展 73
3.5 电压驱动模拟策略及分析 74
3.5.1 电压驱动模拟的算法描述 75
3.5.2 电压驱动算法的时间复杂度 76
3.6 脉冲频率自适应模型的模拟 77
3.6.1 脉冲频率自适应神经元模型 77
3.6.2 神经元的事件驱动模拟策略 80
3.6.3 脉冲神经网络模拟实验结果 80
3.7 本章小结 84
参考文献 85
第4章 神经信息的脉冲序列编码方法 91
4.1 引言 91
4.2 神经信息的编码问题 92
4.2.1 神经信息编码的定义 92
4.2.2 编码与解码的计算过程 94
4.3 神经信息的编码时间窗口 95
4.3.1 编码过程的时间尺度特性 95
4.3.2 编码与整合时间窗口的关系 96
4.4 基于脉冲频率的编码方法 97
4.4.1 基于脉冲计数的频率编码 97
4.4.2 基于脉冲密度的频率编码 99
4.4.3 基于群体活动的频率编码 100
4.5 脉冲准确定时的编码方法 101
4.5.1 首脉冲触发时间编码 102
4.5.2 延迟相位编码 103
4.5.3 脉冲序列编码 105
4.6 神经元群体的编码方法 107
4.7 本章小结 109
参考文献 110
第5章 脉冲序列的相似性度量方法 116
5.1 引言 116
5.2 脉冲序列的表示与内积定义 117
5.2.1 脉冲序列的函数化表示 117
5.2.2 脉冲序列的内积定义 118
5.2.3 脉冲序列内积的性质 119
5.3 基于区间脉冲计数的相似性度量方法 121
5.4 基于脉冲时间匹配的相似性度量方法 122
5.4.1 非置换同时系数相似性度量 122
5.4.2 Victor-Purpura 相似性度量 123
5.4.3 Hunter-Milton 相似性度量 125
5.5 基于脉冲序列内积的相似性度量方法 125
5.5.1 van Rossum 相似性度量 125
5.5.2 基于线性核的相似性度量 126
5.5.3 基于非线性核的相似性度量 128
5.5.4 基于组合核的相似性度量 128
5.6 脉冲序列群体的相似性度量方法 129
5.6.1 基于角间距的相似性度量 130
5.6.2 基于距离的相似性度量 130
5.7 本章小结 130
参考文献 131
第6章 脉冲神经网络的无监督学习规则 135
6.1 引言 135
6.2 突触可塑性机制 136
6.2.1 突触长时程增强 136
6.2.2 突触长时程抑制 137
6.3 Hebb 学习规则 138
6.3.1 Hebb 学习规则的数学模型 139
6.3.2 Hebb 学习规则的相关性质 141
6.4 STDP 学习规则 142
6.4.1 STDP 学习规则的数学模型 143
6.4.2 基于局部变量的STDP 实现 146
6.4.3 不同突触的STDP 学习机制 149
6.5 脉冲神经网络无监督学习的应用 152
6.6 本章小结 153
参考文献 154
第7章 脉冲神经网络的监督学习算法 160
7.1 引言 160
7.2 脉冲神经网络监督学习的基本理论 160
7.2.1 监督学习算法的基本框架 160
7.2.2 监督学习算法的性能评价 162
7.3 脉冲神经网络监督学习算法分类 163
7.3.1 梯度下降的监督学习算法 163
7.3.2 突触可塑性监督学习算法 166
7.3.3 脉冲序列卷积监督学习算法 170
7.4 基于STIP 的脉冲神经元监督学习算法 172
7.4.1 脉冲神经元的监督学习算法 173
7.4.2 神经元模型及学习参数设置 175
7.4.3 脉冲序列学习任务及结果 176
7.5 基于STIP 的多层神经网络监督学习算法 184
7.5.1 多层前馈脉冲神经网络结构 184
7.5.2 多层突触权值的学习规则 185
7.5.3 参数设置及Multi-ReSuMe 算法 188
7.5.4 非线性模式分类问题实验 189
7.6 本章小结 194
参考文献 195
第8章 脉冲神经网络的进化发育方法 201
8.1 引言 201
8.2 神经网络的进化与发育方法 202
8.2.1 进化与发育的计算框架 202
8.2.2 神经网络发育方法的分类 204
8.2.3 进化与发育过程的比较 207
8.2.4 神经网络发育方法的应用 212
8.3 人工基因组编码的基因调控网络 214
8.3.1 人工基因组的表达及调控 214
8.3.2 控制发育的基因调控网络 217
8.4 脉冲神经网络的发育方法 218
8.4.1 细胞分裂树的生成 218
8.4.2 脉冲神经元的生成 220
8.4.3 神经连接的生成 220
8.4.4 突触可塑性的生成 222
8.5 脉冲神经网络的进化算法 223
8.5.1 基因片段复制与歧化模型 223
8.5.2 神经网络的进化算法描述 224
8.6 自主智能体的食物采集实验 225
8.6.1 食物采集实验环境 226
8.6.2 进化与发育的参数设置 228
8.6.3 实验结果分析与比较 229
8.7 本章小结 232
参考文献 233
第9章 进化脉冲神经网络的文化学习 239
9.1 引言 239
9.2 种群进化中的学习模型分类 240
9.2.1 群体学习 240
9.2.2 生命周期学习 241
9.2.3 文化学习 242
9.3 脉冲神经网络的文化学习算法 243
9.3.1 脉冲神经网络的文化学习结构 243
9.3.2 神经网络进化与文化学习实现 244
9.4 文化学习中的信息传递方式 245
9.4.1 垂直层次的文化传递 246
9.4.2 水平层次的文化传递 246
9.5 本章小结 247
参考文献 247
第10章 基于脉冲神经网络的图像处理 250
10.1 引言 250
10.2 脉冲神经网络的图像分割方法 251
10.2.1 神经元模型及像素编码策略 252
10.2.2 图像分割的神经网络结构 253
10.2.3 图像分割算法及评价准则 255
10.3 脉冲神经网络的图像分割实验 256
10.3.1 参数变化对分割结果的影响 256
10.3.2 对复杂噪声图像的分割结果 260
10.4 图像分割中的非线性编码策略 262
10.4.1 像素值的非线性编码策略 263
10.4.2 线性与非线性编码的比较 264
10.5 脉冲神经网络的图像识别方法 268
10.5.1 递归脉冲神经网络结构 269
10.5.2 图像识别的监督学习算法 270
10.6 脉冲神经网络的图像识别实验 271
10.6.1 图像的延迟相位编码 271
10.6.2 图像识别的计算过程 273
10.6.3 LabelMe 图像识别结果 274
10.7 本章小结 275
参考文献 276