Android音视频开发

 

近年来，直播、短视频行业的相关业务发展迅猛，本书主要介绍其中涉及的Android音视频开发相关技术。本书一共有11章，分别介绍了音视频基础知识、MediaPlayer、MediaPlayerService、StagefrightPlayer、NuPlayer、OpenMAX框架、FFmpeg项目、FFmpeg源码分析及实战、直播技术、H.264编码及H.265编码、视频格式分析内容。希望本书能帮助读者系统学习、化繁为简，在Android音视频开发的道路上不断进步。本书适合具有一定Android开发基础并且对音视频技术方向感兴趣的读者阅读。

何俊林，曾就职于爱奇艺，先后参与TV播放器业务和需求开发，以及TV新播放内核开发和维护。主要研究方向为多媒体、音视频、Codec相关方向。长期在CSDN上坚持写博客，2016获得CSDN音视频之星、年度博客之星。爱好开源，乐于研究和分享技术。同时运营公号“何俊林”，超过4w+人关注。

第1章音视频基础知识1
1.1视频编码1
1.2音频编码2
1.3多媒体播放组件（Android、iOS）2
1.4常见的多媒体框架及解决方案3
1.5相关知识点4
1.5.1帧率4
1.5.2分辨率4
1.5.3刷新率4
1.5.4编码格式4
1.5.5封装格式4
1.5.6码率5
1.5.7画质与码率5
1.5.8DTS与PTS5
1.5.9YUV与RGB5
1.5.10视频帧及音频帧5
1.5.11量化精度6
1.5.12采样率6
1.5.13声道6
第2章常用的系统播放器MediaPlayer8
2.1状态图及生命周期8
2.2从创建到setDataSource过程12
2.2.1从创建到setDisplay过程12
2.2.2创建过程13
2.2.3setDataSource过程16
2.2.4setDisplay过程20
2.3开始prepare后的流程22
2.4C++中MediaPlayer的C/S架构31
第3章管理调度的服务者MediaPlayerService40
3.1Client/Server通过IPC的通信流程图40
3.2相关联的类图42
3.3产生过程43
3.4添加服务的过程48
3.5通过BinderDriver和MediaPlayer通信的过程50
3.6创建播放器55
3.7建立StageFright层交互58
第4章StagefrightPlayer（AwesomePlayer）60
4.1AwesomePlayer构造过程60
4.2AwesomePlayer使用MediaExtractor进行数据解析的过程66
4.3AwesomePlayer解码过程69
4.3.1AwesomePlayer中的prepare过程69
4.3.2初始化音视频解码器过程73
4.3.3使用OMXCodec的解码过程75
4.4AwesomePlayer的渲染输出过程80
4.4.1用一张图回顾数据处理过程80
4.4.2视频渲染器构建过程81
4.4.3将音频数据放到Buffer的过程87
4.4.4AudioPlayer在AwesomePlayer中的运行过程91
4.4.5音视频同步93
4.4.6音视频输出96
4.5概要总结97
第5章流媒体播放的新生力量NuPlayer98
5.1NuPlayer整体结构98
5.2NuPlayer的构建过程100
5.3NuPlayer的数据解析模块102
5.4NuPlayer的解码模块107
5.5NuPlayer的渲染模块109
第6章OpenMAX（OMX）框架118
6.1Codec部分中的AwesomePlayer到OMX服务118
6.1.1OpenMAX与StageFright框架层级的关系118
6.1.2OMX的初始化流程120
6.1.3OMX中NodeInstance列表的管理127
6.1.4OMX中NodeInstance节点的操作127
6.1.5总结AwesomePlayer到OMX服务过程130
6.2Codec部分中的OMXCodec与OMX事件回调流程131
6.2.1OMXCodec与OMX callback事件的处理时序图132
6.2.2如何从OMX中分发事件到OMXCodec133
6.2.3缓冲区更新过程135
6.2.4消息回调137
6.3MediaCodec相关知识139
6.3.1MediaCodec的基本认识139
6.3.2从创建到Start过程148
6.3.3MediaCodec到OMX框架过程154
6.3.4MediaCodec硬解码158
第7章FFmpeg项目161
7.1FFmpeg简介161
7.2在Windows下编译FFmpeg163
7.2.1MSYS2164
7.2.2Yasm164
7.2.3开始编译FFmpeg-3.1.3166
7.2.4创建shell编译脚本167
7.2.5编译动态库.so169
7.2.6编译静态库.a171
7.3在Linux下编译FFmpeg172
7.3.1在/etc/profile.d下配置环境变量172
7.3.2开始编译FFmpeg-3.1.3174
7.3.3编写shell脚本175
7.3.4编译动态库.so176
7.3.5编译静态库.a178
7.4在Mac OS下编译FFmpeg179
7.4.1下载源码及配置环境变量179
7.4.2开始编译FFmpeg-3.1.3183
7.4.3编写shell脚本183
7.4.4编译动态库.so185
7.4.5编译静态库.a187
7.5FFmpeg常用命令189
7.5.1改变帧率、码率和文件大小189
7.5.2调整视频分辨率190
7.5.3裁剪/填充视频191
7.5.4翻转和旋转视频193
7.5.5模糊和锐化视频196
7.5.6画中画197
7.5.7在视频上添加文字201
7.5.8文件格式转换205
7.5.9时间操作207
第8章FFmpeg源码分析及实战208
8.1FFmpeg常用结构体分析208
8.1.1AVFormatConext209
8.1.2AVInputFormat211
8.1.3AVStream212
8.1.4AVCodecContext215
8.1.5AVPacket216
8.1.6AVCodec218
8.1.7AVFrame219
8.1.8AVIOContext222
8.1.9URLProtocol223
8.1.10URLContext224
8.2FFmpeg关键函数介绍225
8.2.1av_register_all函数225
8.2.2avformat_alloc_context函数226
8.2.3avio_open函数226
8.2.4avformat_open_input函数229
8.2.5avformat_find_stream_info函数232
8.2.6av_read_frame函数246
8.2.7av_write_frame函数252
8.2.8avcodec_decode_video2函数256
8.3FFmpeg案例（代码实现）264
8.3.1利用FFmpeg转换格式264
8.3.2在实时流中抓取图像269
8.3.3在视频中加入水印277
8.3.4FFmpeg音频解码288
8.3.5FFmpeg视频解码300
8.4FFPlay原理308
8.4.1注册所有容器格式和Codec309
8.4.2打开流文件309
8.4.3读取数据311
8.4.4保存数据318
8.4.5音视频同步322
8.4.6音视频输出326
第9章直播技术328
9.1直播原理328
9.2直播架构328
9.3直播过程329
9.3.1采集数据329
9.3.2渲染处理332
9.3.3编码数据333
9.3.4推流335
9.3.5CDN分发338
9.3.6拉流341
9.3.7播放流数据341
9.3.8直播推流完整案例343
9.4流媒体服务器搭建377
9.5FFmpeg推流到流媒体服务器的过程384
9.6直播优化那些事387
9.6.1卡顿优化387
9.6.2延时优化388
9.6.3数据代理优化389
9.6.4首屏秒开优化390
9.6.5弱网优化391
9.6.6运营商劫持优化391
9.6.7CDN节点优化393
第10章H.264编码及H.265编码395
10.1H.264编码框架395
10.2H.264编码原理395
10.3H.264码流分析397
10.3.1H.264编码格式397
10.3.2NAL Header397
10.3.3H.264的传输399
10.3.4H.264码流结构399
10.3.5H.264的Level和Profile说明406
10.4H.265编码框架408
10.4.1背景知识408
10.4.2H.265码流结构409
第11章视频格式分析414
11.1MP4格式分析414
11.1.1Box结构415
11.1.2MP4总体结构416
11.1.3movie（moov）box416
11.1.4media box418
11.1.5sample table（stbl）box420
11.2FLV格式分析422
11.2.1FLV文件结构422
11.2.2File Header（文件头）422
11.2.3Body423
11.2.4Tag423
11.3F4V格式分析428
11.3.1file type box429
11.3.2movie box430
11.3.3movie header box430
11.3.4track box430
11.3.5media box431
11.3.6media information box433
11.3.7sample table box433
11.4TS格式分析437
11.4.1TS格式介绍437
11.4.2TS流包含的内容438
11.4.3TS包头解析438
11.4.4TS包传输部分440
11.4.5节目专用信息PSI（Program Specific Information）440
11.5AVI格式分析444
11.5.1AVI整体结构445
11.5.2AVI信息块（＇hdrl＇ LIST块）446
11.5.3AVI数据块（＇movi＇ LIST块）447
11.5.4AVI索引块（＇idxl＇子块）448
11.6ASF格式分析448
11.6.1认识ASF448
11.6.2ASF文件整体结构449