移動(dòng)終端人工智能技術(shù)與應(yīng)用開發(fā)

前言
第1章　移動(dòng)終端人工智能技術(shù)概述1
1.1　人工智能技術(shù)發(fā)展概況1
1.1.1　人工智能技術(shù)的發(fā)展歷程1
1.1.2　數(shù)據(jù)和算法成為主要驅(qū)動(dòng)力3
1.1.3　人工智能技術(shù)的應(yīng)用趨勢(shì)6
1.2　機(jī)器學(xué)習(xí)與軟件框架技術(shù)概述8
1.2.1　機(jī)器學(xué)習(xí)8
1.2.2　深度學(xué)習(xí)10
1.2.3　深度學(xué)習(xí)為多個(gè)應(yīng)用技術(shù)領(lǐng)域
　帶來突破11
1.2.4　自動(dòng)化機(jī)器學(xué)習(xí)12
1.2.5　算法與模型14
1.2.6　訓(xùn)練與推理16
1.2.7　深度學(xué)習(xí)框架18
1.3　移動(dòng)終端人工智能應(yīng)用22
1.3.1　AI移動(dòng)終端快速發(fā)展22
1.3.2　移動(dòng)終端的典型AI應(yīng)用24
1.3.3　移動(dòng)終端的AI推理26
1.4　小結(jié)28
參考文獻(xiàn)28
第2章　移動(dòng)終端人工智能技術(shù)架構(gòu)30
2.1　移動(dòng)終端人工智能技術(shù)的特點(diǎn)和
　分層架構(gòu)30
2.2　各層功能概述32
2.2.1　應(yīng)用層32
2.2.2　框架層32
2.2.3　驅(qū)動(dòng)層35
2.2.4　硬件層36
2.3　小結(jié)42
參考文獻(xiàn)42
第3章　神經(jīng)網(wǎng)絡(luò)模型44
3.1　神經(jīng)網(wǎng)絡(luò)模型概述44
3.1.1　神經(jīng)網(wǎng)絡(luò)算法44
3.1.2　神經(jīng)網(wǎng)絡(luò)模型的構(gòu)成46
3.1.3　獲取移動(dòng)終端神經(jīng)網(wǎng)絡(luò)
　模型48
3.2　典型神經(jīng)網(wǎng)絡(luò)模型介紹54
3.2.1　圖像分類54
3.2.2　目標(biāo)檢測(cè)63
3.2.3　圖像分割66
3.2.4　其他神經(jīng)網(wǎng)絡(luò)模型簡介74
3.3　小結(jié)77
參考文獻(xiàn)78
第4章　移動(dòng)終端推理框架79
4.1　推理框架的工作原理79
4.1.1　神經(jīng)網(wǎng)絡(luò)模型轉(zhuǎn)換原理79
4.1.2　深度學(xué)習(xí)編譯器執(zhí)行原理84
4.2　推理框架的工作流程86
4.2.1　模型轉(zhuǎn)換86
4.2.2　數(shù)據(jù)預(yù)處理86
4.2.3　執(zhí)行推理86
4.2.4　結(jié)果輸出87
4.3　主要移動(dòng)終端推理框架介紹87
4.3.1　TensorFlow Lite88
4.3.2　PyTorch Mobile97
4.3.3　Paddle Lite 102
4.3.4　VCAP 109
4.3.5　高通SNPE116
4.3.6　華為HiAI Foundation126
4.3.7　曠視天元154
4.3.8　蘋果Core ML框架166
4.3.9　其他深度學(xué)習(xí)推理框架170
4.4　小結(jié)178
參考文獻(xiàn)178
第5章　深度學(xué)習(xí)編譯器180
5.1　深度學(xué)習(xí)編譯器的概念180
5.1.1　傳統(tǒng)編譯器180
5.1.2　移動(dòng)端深度學(xué)習(xí)編譯器182
5.2　主流編譯器介紹184
5.2.1　Android神經(jīng)網(wǎng)絡(luò)接口
　NN API184
5.2.2　高通SNPE編譯技術(shù)187
5.2.3　華為HiAI Foundation編譯
　技術(shù)192
5.2.4　百度Paddle Lite編譯技術(shù)194
5.2.5　其他深度學(xué)習(xí)編譯器195
5.2.6　不同深度學(xué)習(xí)編譯器的
　差異196
5.3　小結(jié)197
第6章　移動(dòng)終端AI推理應(yīng)用開發(fā)
　過程198
6.1　總體開發(fā)過程198
6.2　需求階段199
6.3　設(shè)計(jì)階段200
6.4　編碼開發(fā)階段202
6.5　調(diào)試階段202
6.5.1　功能調(diào)試203
6.5.2　性能調(diào)試204
6.6　小結(jié)205
第7章　移動(dòng)終端推理應(yīng)用開發(fā)
　實(shí)例206
7.1　基于TensorFlow Lite框架的
　圖像分類應(yīng)用206
7.1.1　創(chuàng)建工程206
7.1.2　模型轉(zhuǎn)換211
7.1.3　模型推理211
7.1.4　結(jié)果展示213
7.2　基于PyTorch Mobile框架的應(yīng)用
　實(shí)例214
7.2.1　創(chuàng)建工程214
7.2.2　模型轉(zhuǎn)換215
7.2.3　模型推理216
7.2.4　結(jié)果展示217
7.3　基于Paddle Lite引擎的應(yīng)用
　實(shí)例218
7.3.1　創(chuàng)建工程218
7.3.2　模型轉(zhuǎn)換220
7.3.3　模型推理220
7.3.4　結(jié)果展示225
7.4　基于vivo VCAP引擎的應(yīng)用
　實(shí)例225
7.4.1　創(chuàng)建工程225
7.4.2　模型轉(zhuǎn)換228
7.4.3　模型推理229
7.4.4　結(jié)果展示232
7.5　基于高通SNPE引擎的圖片分類
　應(yīng)用 232
7.5.1　創(chuàng)建工程233
7.5.2　模型轉(zhuǎn)換235
7.5.3　模型推理236
7.5.4　結(jié)果展示238
7.6　基于華為HiAI Foundation的圖片
　分類應(yīng)用239
7.6.1　創(chuàng)建工程239
7.6.2　模型轉(zhuǎn)換243
7.6.3　模型推理244
7.6.4　結(jié)果展示249
7.7　基于蘋果Core ML引擎的應(yīng)用
　實(shí)例249
7.7.1　創(chuàng)建工程250
7.7.2　模型轉(zhuǎn)換252
7.7.3　模型推理253
7.7.4　結(jié)果展示255
7.8　基于曠視天元的應(yīng)用實(shí)例255
7.8.1　創(chuàng)建工程255
7.8.2　模型轉(zhuǎn)換258
7.8.3　模型推理259
7.8.4　結(jié)果展示262
7.9　基于MNN引擎的應(yīng)用實(shí)例263
7.9.1　創(chuàng)建工程263
7.9.2　模型轉(zhuǎn)換265
7.9.3　模型推理265
7.9.4　結(jié)果展示271
7.10　小結(jié)272
第8章　AI應(yīng)用性能調(diào)試273
8.1　AI應(yīng)用性能調(diào)試方法273
8.2　AI應(yīng)用性能測(cè)試負(fù)載275
8.3　AI應(yīng)用性能評(píng)價(jià)指標(biāo)278
8.3.1　模型類指標(biāo)278
8.3.2　通用指標(biāo)和硬件性能指標(biāo)282
8.4　AI應(yīng)用推理性能差異283
8.5　AI應(yīng)用性能優(yōu)化284
8.6　小結(jié)285
第9章　移動(dòng)終端的AI推理性能
　評(píng)價(jià)286
9.1　不同移動(dòng)終端間的AI性能基準(zhǔn)
　測(cè)試286
9.2　AI基準(zhǔn)測(cè)試應(yīng)用介紹288
9.3　小結(jié)293
第10章　移動(dòng)終端AI技術(shù)發(fā)展
　趨勢(shì)294
10.1　技術(shù)發(fā)展趨勢(shì)294
10.1.1　移動(dòng)終端的AI訓(xùn)練294
10.1.2　移動(dòng)終端的聯(lián)邦學(xué)習(xí)300
10.2　產(chǎn)品發(fā)展趨勢(shì)307
10.2.1　智能語音終端307
10.2.2　自然語言處理終端 308
10.2.3　智能機(jī)器人產(chǎn)品309
10.2.4　智能無人機(jī)310
10.2.5　智能家居產(chǎn)品311
10.2.6　智能醫(yī)療產(chǎn)品 311
10.2.7　智能安防產(chǎn)品 312
10.2.8　智能交通產(chǎn)品 313
參考文獻(xiàn)314
附錄一　移動(dòng)終端推理應(yīng)用開發(fā)
　示例315
附錄A　TensorFlow Lite示例代碼315
附錄B　PyTorch示例代碼315
附錄C　Paddle Lite示例代碼316
附錄D　VCAP示例代碼