本书围绕模式识别的基本概念、基础理论和典型方法，从实际应用问题出发，系统描述了模式识别的常用方法和常见技巧，并给出了一系列实验及应用案例。本书首先介绍了机器视觉的概念及特征提取的概念和方法；其次介绍了线性分类模型、非线性分类模型、时间序列预测模型和混合模型等理论知识与实践操作；最后重点介绍了图像识别、视频目标检测与跟踪、语音识别、生物特征识别和医学图像检索等典型应用。

刘鹏：博士毕业于清华大学，教授，现任南京大数据研究院院长、中国大数据应用联盟人工智能专家委员会主任、中国大数据专家委员会委员。曾率队夺得2002 PennySort国际计算机排序比赛冠军（这是我国获得的第一个大数据比赛世界冠军），两次夺得全国高校科技比赛*高奖，三次夺得清华大学科技比赛*高奖。主持完成科研项目25项，发表论文80余篇，出版专业图书20部。获部级科技进步二等奖4项、三等奖4项。2002年开创性地提出了“计算池”模式，被2007年开始流行的“云计算”所证实。2003年开创性地提出了“反垃圾邮件网格”，被2008年开始流行的“云安全”所证实。荣获“全军十大学习成才标兵”、南京市“十大杰出青年”、江苏省中青年科学技术带头人、清华大学“学术新秀”等称号。刘河，现就职于重庆市教育科学研究院，中国计算机学会会员，重庆市教育信息化专家委员会成员；主要研究领域为大数据、人工智能等；独立开发了10余个软件系统，主持主研了多项省部级重点课题，编著了多部教材，获得了多个计算机软件著作权登记证书。

第1章 绪论 1
1.1 机器感知与视觉信息 1
1.1.1 机器感知 1
1.1.2 视觉信息感知 2
1.1.3 视觉机理 2
1.2 特征选择与提取 3
1.2.1 特征 3
1.2.2 特征选择 3
1.2.3 特征提取 4
1.3 模式识别系统 4
1.3.1 模式与模式识别 4
1.3.2 模式识别系统 5
1.4 机器感知与模式识别 5
1.5 机器感知与人工智能的关系 6
1.6 章节安排 6
习题 7
参考文献 8
第2章 机器视觉 9
2.1 视觉系统 9
2.1.1 机器视觉的发展 9
2.1.2 机器视觉系统的构成与评价指标 10
2.1.3 机器视觉的应用 12
2.2 硬件系统 14
2.2.1 工业相机 15
2.2.2 镜头 20
2.2.3 光源 24
2.2.4 其他组成部分 29
2.3 视觉软件 30
2.4 实验：车牌识别 31
2.4.1 实验目的 31
2.4.2 实验要求 31
2.4.3 实验原理 31
2.4.4 实验环境 31
2.4.5 实验步骤 31
习题 32
参考文献 33
第3章 特征提取 35
3.1 特征提取简述 35
3.2 特征选择 37
3.2.1 特征方差 38
3.2.2 特征相关系数 38
3.2.3 类间距离 38
3.2.4 降维 38
3.3 降维 39
3.3.1 基于PCA的特征提取 40
3.3.2 PCA的步骤 41
3.4 类脑智能 42
3.4.1 模式识别与人工智能 42
3.4.2 类脑智能的概念 43
3.4.3 类脑智能的技术框架 44
3.5 模式识别系统设计 45
3.6 计算学习理论 46
3.6.1 基本的PAC模型 47
3.6.2 基本概念 47
3.6.3 问题框架 48
3.6.4 小结 49
3.7 实验：基于PCA的特征脸提取 49
3.7.1 实验目的 49
3.7.2 实验要求 49
3.7.3 实验原理 49
3.7.4 实验步骤 50
3.7.5 实验结果 51
习题 53
参考文献 53
第4章 线性分类模型 55
4.1 线性判别函数 55
4.1.1 两类问题 55
4.1.2 多类问题 57
4.2 Fisher线性判别函数 59
4.3 感知器算法 62
4.4 最小平方误差算法 64
4.5 Logistic回归 65
4.6 基于Python实现感知器算法 69
4.6.1 基于sklearn库实现感知器算法 69
4.6.2 实验结果分析 73
4.7 实验：感知器算法实现 74
4.7.1 实验目的 74
4.7.2 实验要求 75
4.7.3 实验原理及具体步骤 75
4.7.4 实验结果 77
习题 79
参考文献 79
第5章 非线性分类 81
5.1 分段线性判别函数 81
5.1.1 最小距离分类器 81
5.1.2 一般的分段线性判别函数 82
5.2 决策树和随机森林 85
5.2.1 树状分类过程 85
5.2.2 构造决策树 86
5.2.3 森林分类过程 89
5.3 支持向量机 90
5.3.1 线性可分情况 90
5.3.2 线性不可分情况 91
5.4 贝叶斯分类网络 93
5.4.1 贝叶斯决策的相关概念 93
5.4.2 最小错误率贝叶斯决策 94
5.4.3 最小风险贝叶斯决策 95
5.4.4 正态分布贝叶斯分类 96
5.5 神经网络 97
5.5.1 神经网络基本单元 97
5.5.2 前馈神经网络 98
5.5.3 Hopfield反馈神经网络 102
5.6 基于Python实现决策树和随机森林算法 103
5.6.1 决策树和随机森林算法的基本特征 103
5.6.2 实验结果分析 106
5.7 实验：决策树和随机森林算法实现 107
5.7.1 实验目的 107
5.7.2 实验要求 107
5.7.3 实验原理及步骤 107
5.7.4 实验结果 111
习题 113
参考文献 113
第6章 时间序列预测 115
6.1 时间序列预测概述 115
6.1.1 时间序列 115
6.1.2 编制时间序列的原则 117
6.1.3 时间序列预测方法 118
6.1.4 时间序列预测流程 120
6.1.5 时间序列预测模型评估 121
6.2 指数平滑法 122
6.2.1 一次指数平滑 123
6.2.2 二次指数平滑 123
6.2.3 三次指数平滑 124
6.2.4 平滑系数的选择 124
6.3 自回归滑动平均模型 124
6.3.1 自回归模型 125
6.3.2 移动平均模型 125
6.3.3 自回归滑动平均模型表示 125
6.3.4 自回归滑动平均模型建模 126
6.4 自回归积分滑动平均模型 128
6.4.1 自回归积分滑动平均模型表示 128
6.4.2 自回归积分滑动平均模型建模 128
6.4.3 案例分析 129
6.5 长短期记忆网络模型 133
6.5.1 循环神经网络 134
6.5.2 长短期记忆网络 134
6.6 实验：基于LSTM的股票最高价预测 135
6.6.1 实验目的 135
6.6.2 实验要求 135
6.6.3 实验原理 136
6.6.4 实验步骤 137
6.6.5 实验结果 141
习题 143
参考文献 143
第7章 混合模型 145
7.1 高斯模型与高斯混合模型 145
7.1.1 高斯模型 145
7.1.2 高斯混合模型 146
7.2 贝叶斯混合模型 147
7.3 集成学习 148
7.3.1 Boosting 149
7.3.2 AdaBoost 149
7.4 实验：基于AdaBoost集成学习的乳腺癌分类 153
7.4.1 实验目的 153
7.4.2 实验要求 154
7.4.3 实验原理 154
7.4.4 实验内容 156
7.4.5 实验结果 162
习题 163
参考文献 163
第8章 图像识别 164
8.1 数字图像处理系统 164
8.1.1 图像感知与获取 164
8.1.2 图像处理硬件 165
8.1.3 图像处理软件 166
8.1.4 图像的显示和存储 166
8.2 图像特征描述 167
8.2.1 几何特征 167
8.2.2 形状特征 170
8.2.3 颜色特征 172
8.2.4 纹理特征 173
8.3 图像特征提取 175
8.3.1 基于Hu不变矩的形状特征提取 175
8.3.2 基于联合概率矩阵法的纹理特征提取 177
8.3.3 分块颜色直方图特征提取 178
8.3.4 基于小波变换的图像特征提取 179
8.4 目标识别 180
8.4.1 结构判别方法 181
8.4.2 决策理论方法 183
8.5 基于区域生长法的图像识别 186
8.5.1 区域生长法的基本原理 186
8.5.2 基于区域生长法的裂缝识别系统 188
8.5.3 实验结果分析 189
8.6 实验：水泥面裂缝检测 191
8.6.1 实验目的 191
8.6.2 实验要求 191
8.6.3 实验原理 191
8.6.4 实验步骤 192
8.6.5 实验结果 192
习题 193
参考文献 194
第9章 视频目标检测与跟踪 196
9.1 视频目标检测 196
9.1.1 帧间差分法 196
9.1.2 光流法 197
9.1.3 背景减除法 198
9.1.4 目标检测在复杂场景中应用的困难 202
9.2 运动目标跟踪 202
9.2.1 MeanShift跟踪算法 202
9.2.2 卡尔曼滤波跟踪算法 205
9.2.3 多目标跟踪算法 208
9.3 运动目标检测的性能评价 211
9.3.1 主观评价 212
9.3.2 客观评价 212
9.4 图像视频数据集 214
9.4.1 MOT16数据集 214
9.4.2 PETS2016数据集 215
9.4.3 ChangeDetection.net数据集 216
9.4.4 OTCBVS红外图像数据集 216
9.4.5 KITTI自动驾驶数据集 217
9.4.6 Cityscapes Dataset数据集 217
9.5 实验：多目标跟踪实验 218
9.5.1 实验目的 218
9.5.2 实验要求 218
9.5.3 实验原理 218
9.5.4 实验步骤及实验结果 219
习题 222
参考文献 222
第10章 语音识别 224
10.1 语音识别概述 224
10.1.1 语音识别的研究背景 224
10.1.2 语音识别的现状与问题 225
10.1.3 语音识别系统的基本结构 226
10.2 声学模型 227
10.2.1 混合高斯模型 227
10.2.2 隐马尔可夫模型 228
10.3 语言模型 229
10.3.1 语言模型的基础理论 229
10.3.2 基于知识的语言模型 229
10.3.3 基于统计方法的语言模型 230
10.3.4 基于知识的语言模型和基于统计方法的语言模型比较 231
10.4 解码器 232
10.5 深度学习模型 234
10.5.1 深度神经网络 234
10.5.2 DNN前向传播算法 235
10.5.3 DNN反向传播算法 236
10.5.4 DNN中的激活函数 236
10.6 基于MFCC的语音识别 237
10.6.1 MFCC特征提取 237
10.6.2 MFCC的基本原理 237
10.7 基于DNN-MFCC混合系统的语音识别 242
10.7.1 DNN和MFCC结合的原理 242
10.7.2 DNN-MFCC混合系统 244
10.8 实验：基于MFCC特征和THCHS-30数据集的语音识别 246
10.8.1 实验目的 246
10.8.2 实验要求 246
10.8.3 实验原理 247
10.8.4 实验步骤 248
10.8.5 实验结果 248
习题 249
参考文献 250
第11章 生物特征识别 252
11.1 生物特征识别概述 252
11.1.1 生物特征 252
11.1.2 生物特征识别系统 253
11.1.3 应用概况和发展趋势 255
11.2 指纹识别 256
11.2.1 指纹特征 257
11.2.2 指纹采集设备 258
11.2.3 指纹图像预处理 259
11.2.4 指纹特征提取 264
11.2.5 指纹特征匹配 266
11.3 人脸识别 267
11.3.1 人脸识别概述 267
11.3.2 人脸检测 269
11.3.3 人脸特征提取 271
11.3.4 人脸特征匹配 273
11.4 虹膜识别 274
11.4.1 虹膜识别概述 274
11.4.2 虹膜定位 275
11.4.3 虹膜图像归一化 277
11.4.4 虹膜特征提取 278
11.4.5 虹膜特征匹配 279
11.5 步态识别 280
11.5.1 步态识别概述 280
11.5.2 步态特征提取 281
11.5.3 步态特征匹配 282
11.6 实验：人脸识别 283
11.6.1 实验目的 283
11.6.2 实验要求 283
11.6.3 实验原理 283
11.6.4 实验步骤 283
习题 284
参考文献 285
第12章 医学图像检索 287
12.1 医学图像检索概述 287
12.1.1 医学图像的特点 287
12.1.2 基于内容的医学图像检索 288
12.1.3 医学图像检索框架 290
12.1.4 医学图像检索中的关键技术 292
12.2 多媒体内容描述标准MPEG-7 292
12.2.1 MPEG-7的基本概念 293
12.2.2 MPEG-7的主要元素 293
12.2.3 MPEG-7的组成 294
12.2.4 MPEG-7视觉描述工具 295
12.3 基于MPEG-7纹理描述子的X射线胸片图像检索 297
12.3.1 X射线胸片图像 297
12.3.2 基于同构型纹理描述子的X射线胸片图像检索 298
12.4 图像检索系统性能评价 301
12.5 实验：基于颜色直方图的医学图像检索 302
12.5.1 实验目的 302
12.5.2 实验要求 302
12.5.3 实验原理 302
12.5.4 实验步骤 302
12.5.5 实验结果 310
习题 311
参考文献 312
附录A 人工智能实验环境 314