移動(dòng)終端人工智能技術(shù)與應(yīng)用開(kāi)發(fā)
定 價(jià):99 元
叢書(shū)名:智能系統(tǒng)與技術(shù)叢書(shū)
- 作者:解謙 張睿 段虎才 等
- 出版時(shí)間:2022/11/1
- ISBN:9787111713029
- 出 版 社:機(jī)械工業(yè)出版社
- 中圖法分類(lèi):TN929.53
- 頁(yè)碼:
- 紙張:膠版紙
- 版次:
- 開(kāi)本:16開(kāi)
本書(shū)適合那些對(duì)人工智能感興趣,且具備一定移動(dòng)終端應(yīng)用程序開(kāi)發(fā)經(jīng)驗(yàn)的讀者。如果您掌握一定的JAVA 、C++或Python語(yǔ)言開(kāi)發(fā)知識(shí),同時(shí)具備Android操作系統(tǒng)或IOS操作系統(tǒng)的應(yīng)用的開(kāi)發(fā)經(jīng)驗(yàn),將能迅速掌握基本的移動(dòng)終端人工智能應(yīng)用開(kāi)發(fā)方法。如果您只是對(duì)人工智能技術(shù)感興趣,相信本書(shū)也能帶您了解人工智能技術(shù)是如何在移動(dòng)終端上部署和運(yùn)行的。
1.本書(shū)是一本介紹移動(dòng)終端人工智能應(yīng)用開(kāi)發(fā)和性能評(píng)測(cè)的工具書(shū),包含了移動(dòng)終端人工智能技術(shù)架構(gòu)、神經(jīng)網(wǎng)絡(luò)模型、AI推理框架和深度學(xué)習(xí)編譯器等內(nèi)容,匯聚了多個(gè)主流供應(yīng)商的移動(dòng)終端AI技術(shù)框架和工具,通過(guò)應(yīng)用實(shí)例系統(tǒng)地闡述了移動(dòng)終端AI應(yīng)用的開(kāi)發(fā)、調(diào)試,以及AI應(yīng)用性能的專(zhuān)業(yè)評(píng)測(cè)方法。對(duì)于移動(dòng)終端AI應(yīng)用開(kāi)發(fā)者和愛(ài)好者是一本不錯(cuò)的入門(mén)指南;
2.讀者可從機(jī)械工業(yè)出版社華章分社圖書(shū)網(wǎng)站下載書(shū)中實(shí)例源代碼:http://www.hzbook.com。
從2017年開(kāi)始,人工智能(Artificial Intelligence,AI)技術(shù)已經(jīng)不再是前沿科技或?qū)嶒?yàn)室中的概念產(chǎn)物,而是實(shí)實(shí)在在落地為產(chǎn)品出現(xiàn)在人們的日常生活中,為用戶(hù)提供智慧化的服務(wù),F(xiàn)在我們每天接觸的智能手機(jī)和平板電腦等移動(dòng)終端設(shè)備也越來(lái)越多地被冠以AI終端的名頭,而且出現(xiàn)了越來(lái)越多的AI應(yīng)用或服務(wù)。目前這些在移動(dòng)終端上運(yùn)行的AI應(yīng)用主要使用基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)技術(shù)。這項(xiàng)技術(shù)需要大量的算力支持,所以在發(fā)展初期主要在云端實(shí)現(xiàn),通過(guò)移動(dòng)互聯(lián)網(wǎng)為用戶(hù)提供服務(wù)。但隨著終端軟硬件技術(shù)的不斷發(fā)展,業(yè)界越來(lái)越重視在移動(dòng)終端上直接運(yùn)行神經(jīng)網(wǎng)絡(luò),以此獲得更快的響應(yīng)速度和更高的安全性。為此,各互聯(lián)網(wǎng)廠(chǎng)商、終端廠(chǎng)商和芯片廠(chǎng)商陸續(xù)推出了各種深度學(xué)習(xí)推理框架,用于在移動(dòng)終端設(shè)備上通過(guò)設(shè)備的AI芯片運(yùn)行人工智能推理任務(wù),比如Google公司的TensorFlow Lite、華為公司的HiAI Foundation、高通公司的SNPE等。未來(lái),在終端上部署的人工智能技術(shù)將隨著這些推理框架和AI芯片的不斷發(fā)展,為移動(dòng)終端AI應(yīng)用和服務(wù)加速。本書(shū)圍繞著如何在移動(dòng)智能終端上通過(guò)深度學(xué)習(xí)推理框架進(jìn)行人工智能應(yīng)用開(kāi)發(fā)而展開(kāi),不僅向讀者介紹相關(guān)概念和原理,還提供應(yīng)用開(kāi)發(fā)的入門(mén)級(jí)指導(dǎo),相信讀者能夠通過(guò)自己動(dòng)手實(shí)現(xiàn)移動(dòng)端人工智能應(yīng)用來(lái)加深對(duì)移動(dòng)終端人工智能技術(shù)的理解。
本書(shū)適合對(duì)人工智能感興趣,且具備一定移動(dòng)終端應(yīng)用程序開(kāi)發(fā)經(jīng)驗(yàn)的讀者閱讀。只要擁有一定的Java、C++或Python語(yǔ)言開(kāi)發(fā)知識(shí),同時(shí)具備Android操作系統(tǒng)或iOS操作系統(tǒng)的應(yīng)用開(kāi)發(fā)經(jīng)驗(yàn),就可以通過(guò)本書(shū)迅速掌握基本的移動(dòng)終端人工智能應(yīng)用開(kāi)發(fā)方法。如果你只是對(duì)人工智能技術(shù)感興趣,相信本書(shū)也能帶你了解人工智能技術(shù)是如何在移動(dòng)終端上部署和運(yùn)行的。
本書(shū)共分為10章,第1章主要介紹移動(dòng)終端人工智能技術(shù)應(yīng)用的現(xiàn)狀和發(fā)展態(tài)勢(shì),對(duì)深度學(xué)習(xí)與軟件框架等相關(guān)基礎(chǔ)知識(shí)進(jìn)行了闡述,分析了移動(dòng)終端推理應(yīng)用的發(fā)展趨勢(shì);第2章從總體上介紹移動(dòng)終端AI技術(shù)架構(gòu),包括移動(dòng)終端人工智能技術(shù)的特點(diǎn)和架構(gòu)全貌,從而讓讀者初步了解移動(dòng)終端人工智能技術(shù)的原理和各要素組件。第3~5章詳細(xì)剖析移動(dòng)終端人工智能技術(shù)的分層架構(gòu),分別介紹了神經(jīng)網(wǎng)絡(luò)模型、移動(dòng)終端推理框架以及深度學(xué)習(xí)編譯器等內(nèi)容,讓讀者理解移動(dòng)終端人工智能技術(shù)的底層邏輯,掌握在移動(dòng)終端進(jìn)行人工智能推理的方法;第6~8章介紹如何開(kāi)發(fā)移動(dòng)終端AI推理應(yīng)用,幫助讀者從需求分析、功能設(shè)計(jì)、編碼開(kāi)發(fā)到調(diào)試優(yōu)化等環(huán)節(jié)了解整個(gè)開(kāi)發(fā)過(guò)程;第9章則通過(guò)移動(dòng)終端AI基準(zhǔn)(Benchmark)性能測(cè)試的介紹,讓讀者了解不同移動(dòng)終端和終端推理框架的性能區(qū)別;第10章面向未來(lái),向讀者介紹移動(dòng)終端人工智能技術(shù)最新的發(fā)展情況和未來(lái)趨勢(shì),包括移動(dòng)終端的訓(xùn)練和聯(lián)邦學(xué)習(xí)等前沿技術(shù),并對(duì)其他人工智能終端產(chǎn)品進(jìn)行了簡(jiǎn)要介紹。本書(shū)還給出了第7章中每個(gè)示例的完整代碼,讀者需要掃描封底二維碼下載包含代碼文件的壓縮包,并根據(jù)附錄提供的路徑找到相關(guān)代碼文件。這些代碼可以為讀者開(kāi)發(fā)應(yīng)用提供參考。
在編撰本書(shū)的過(guò)程中得到了業(yè)界多方支持,在此表示感謝:感謝華為公司、曠視科技公司、vivo公司和百度公司分別為本書(shū)HiAI Foundation、曠視天元(MegEngine)、VCAP和Paddle Lite部分的編寫(xiě)提供技術(shù)資料,感謝高通公司對(duì)本書(shū)編寫(xiě)提出寶貴意見(jiàn)。此外,我們還得到了魏然、曹宇瓊、戈志勇、國(guó)煒、周佳琳等專(zhuān)家和老師的幫助,在此一并感謝。
雖然本書(shū)的編寫(xiě)歷經(jīng)一年,但我們?nèi)匀宦愿袀}(cāng)促。我們盡可能提供最新版本的資料給讀者,但是移動(dòng)終端人工智能技術(shù)發(fā)展迅速,在編寫(xiě)過(guò)程中就出現(xiàn)了多次軟件版本升級(jí)的情況,所以對(duì)于本書(shū)的部分內(nèi)容,尤其是第4章和第7章關(guān)于技術(shù)和開(kāi)發(fā)的部分,讀者可以通過(guò)本書(shū)提供的網(wǎng)址在互聯(lián)網(wǎng)上參考官方新版操作手冊(cè)以了解最新的技術(shù)進(jìn)展。我們希望讀者能通過(guò)本書(shū)基本掌握移動(dòng)終端人工智能技術(shù)的原理和方法。對(duì)于本書(shū)中未闡明的部分或錯(cuò)漏之處,讀者也可以通過(guò)郵件zhangrui@caict.ac.cn進(jìn)行反饋,不勝感激!
前言
第1章 移動(dòng)終端人工智能技術(shù)概述1
1.1 人工智能技術(shù)發(fā)展概況1
1.1.1 人工智能技術(shù)的發(fā)展歷程1
1.1.2 數(shù)據(jù)和算法成為主要驅(qū)動(dòng)力3
1.1.3 人工智能技術(shù)的應(yīng)用趨勢(shì)6
1.2 機(jī)器學(xué)習(xí)與軟件框架技術(shù)概述8
1.2.1 機(jī)器學(xué)習(xí)8
1.2.2 深度學(xué)習(xí)10
1.2.3 深度學(xué)習(xí)為多個(gè)應(yīng)用技術(shù)領(lǐng)域
帶來(lái)突破11
1.2.4 自動(dòng)化機(jī)器學(xué)習(xí)12
1.2.5 算法與模型14
1.2.6 訓(xùn)練與推理16
1.2.7 深度學(xué)習(xí)框架18
1.3 移動(dòng)終端人工智能應(yīng)用22
1.3.1 AI移動(dòng)終端快速發(fā)展22
1.3.2 移動(dòng)終端的典型AI應(yīng)用24
1.3.3 移動(dòng)終端的AI推理26
1.4 小結(jié)28
參考文獻(xiàn)28
第2章 移動(dòng)終端人工智能技術(shù)架構(gòu)30
2.1 移動(dòng)終端人工智能技術(shù)的特點(diǎn)和
分層架構(gòu)30
2.2 各層功能概述32
2.2.1 應(yīng)用層32
2.2.2 框架層32
2.2.3 驅(qū)動(dòng)層35
2.2.4 硬件層36
2.3 小結(jié)42
參考文獻(xiàn)42
第3章 神經(jīng)網(wǎng)絡(luò)模型44
3.1 神經(jīng)網(wǎng)絡(luò)模型概述44
3.1.1 神經(jīng)網(wǎng)絡(luò)算法44
3.1.2 神經(jīng)網(wǎng)絡(luò)模型的構(gòu)成46
3.1.3 獲取移動(dòng)終端神經(jīng)網(wǎng)絡(luò)
模型48
3.2 典型神經(jīng)網(wǎng)絡(luò)模型介紹54
3.2.1 圖像分類(lèi)54
3.2.2 目標(biāo)檢測(cè)63
3.2.3 圖像分割66
3.2.4 其他神經(jīng)網(wǎng)絡(luò)模型簡(jiǎn)介74
3.3 小結(jié)77
參考文獻(xiàn)78
第4章 移動(dòng)終端推理框架79
4.1 推理框架的工作原理79
4.1.1 神經(jīng)網(wǎng)絡(luò)模型轉(zhuǎn)換原理79
4.1.2 深度學(xué)習(xí)編譯器執(zhí)行原理84
4.2 推理框架的工作流程86
4.2.1 模型轉(zhuǎn)換86
4.2.2 數(shù)據(jù)預(yù)處理86
4.2.3 執(zhí)行推理86
4.2.4 結(jié)果輸出87
4.3 主要移動(dòng)終端推理框架介紹87
4.3.1 TensorFlow Lite88
4.3.2 PyTorch Mobile97
4.3.3 Paddle Lite 102
4.3.4 VCAP 109
4.3.5 高通SNPE116
4.3.6 華為HiAI Foundation126
4.3.7 曠視天元154
4.3.8 蘋(píng)果Core ML框架166
4.3.9 其他深度學(xué)習(xí)推理框架170
4.4 小結(jié)178
參考文獻(xiàn)178
第5章 深度學(xué)習(xí)編譯器180
5.1 深度學(xué)習(xí)編譯器的概念180
5.1.1 傳統(tǒng)編譯器180
5.1.2 移動(dòng)端深度學(xué)習(xí)編譯器182
5.2 主流編譯器介紹184
5.2.1 Android神經(jīng)網(wǎng)絡(luò)接口
NN API184
5.2.2 高通SNPE編譯技術(shù)187
5.2.3 華為HiAI Foundation編譯
技術(shù)192
5.2.4 百度Paddle Lite編譯技術(shù)194
5.2.5 其他深度學(xué)習(xí)編譯器195
5.2.6 不同深度學(xué)習(xí)編譯器的
差異196
5.3 小結(jié)197
第6章 移動(dòng)終端AI推理應(yīng)用開(kāi)發(fā)
過(guò)程198
6.1 總體開(kāi)發(fā)過(guò)程198
6.2 需求階段199
6.3 設(shè)計(jì)階段200
6.4 編碼開(kāi)發(fā)階段202
6.5 調(diào)試階段202
6.5.1 功能調(diào)試203
6.5.2 性能調(diào)試204
6.6 小結(jié)205
第7章 移動(dòng)終端推理應(yīng)用開(kāi)發(fā)
實(shí)例206
7.1 基于TensorFlow Lite框架的
圖像分類(lèi)應(yīng)用206
7.1.1 創(chuàng)建工程206
7.1.2 模型轉(zhuǎn)換211
7.1.3 模型推理211
7.1.4 結(jié)果展示213
7.2 基于PyTorch Mobile框架的應(yīng)用
實(shí)例214
7.2.1 創(chuàng)建工程214
7.2.2 模型轉(zhuǎn)換215
7.2.3 模型推理216
7.2.4 結(jié)果展示217
7.3 基于Paddle Lite引擎的應(yīng)用
實(shí)例218
7.3.1 創(chuàng)建工程218
7.3.2 模型轉(zhuǎn)換220
7.3.3 模型推理220
7.3.4 結(jié)果展示225
7.4 基于vivo VCAP引擎的應(yīng)用
實(shí)例225
7.4.1 創(chuàng)建工程225
7.4.2 模型轉(zhuǎn)換228
7.4.3 模型推理229
7.4.4 結(jié)果展示232
7.5 基于高通SNPE引擎的圖片分類(lèi)
應(yīng)用 232
7.5.1 創(chuàng)建工程233
7.5.2 模型轉(zhuǎn)換235
7.5.3 模型推理236
7.5.4 結(jié)果展示238
7.6 基于華為HiAI Foundation的圖片
分類(lèi)應(yīng)用239
7.6.1 創(chuàng)建工程239
7.6.2 模型轉(zhuǎn)換243
7.6.3 模型推理244
7.6.4 結(jié)果展示249
7.7 基于蘋(píng)果Core ML引擎的應(yīng)用
實(shí)例249
7.7.1 創(chuàng)建工程250
7.7.2 模型轉(zhuǎn)換252
7.7.3 模型推理253
7.7.4 結(jié)果展示255
7.8 基于曠視天元的應(yīng)用實(shí)例255
7.8.1 創(chuàng)建工程255
7.8.2 模型轉(zhuǎn)換258
7.8.3 模型推理259
7.8.4 結(jié)果展示262
7.9 基于MNN引擎的應(yīng)用實(shí)例263
7.9.1 創(chuàng)建工程263
7.9.2 模型轉(zhuǎn)換265
7.9.3 模型推理265
7.9.4 結(jié)果展示271
7.10 小結(jié)272
第8章 AI應(yīng)用性能調(diào)試273
8.1 AI應(yīng)用性能調(diào)試方法273
8.2 AI應(yīng)用性能測(cè)試負(fù)載275
8.3 AI應(yīng)用性能評(píng)價(jià)指標(biāo)278
8.3.1 模型類(lèi)指標(biāo)278
8.3.2 通用指標(biāo)和硬件性能指標(biāo)282
8.4 AI應(yīng)用推理性能差異283
8.5 AI應(yīng)用性能優(yōu)化284
8.6 小結(jié)285
第9章 移動(dòng)終端的AI推理性能
評(píng)價(jià)286
9.1 不同移動(dòng)終端間的AI性能基準(zhǔn)
測(cè)試286
9.2 AI基準(zhǔn)測(cè)試應(yīng)用介紹288
9.3 小結(jié)293
第10章 移動(dòng)終端AI技術(shù)發(fā)展
趨勢(shì)294
10.1 技術(shù)發(fā)展趨勢(shì)294
10.1.1 移動(dòng)終端的AI訓(xùn)練294
10.1.2 移動(dòng)終端的聯(lián)邦學(xué)習(xí)300
10.2 產(chǎn)品發(fā)展趨勢(shì)307
10.2.1 智能語(yǔ)音終端307
10.2.2 自然語(yǔ)言處理終端 308
10.2.3 智能機(jī)器人產(chǎn)品309
10.2.4 智能無(wú)人機(jī)310
10.2.5 智能家居產(chǎn)品311
10.2.6 智能醫(yī)療產(chǎn)品 311
10.2.7 智能安防產(chǎn)品 312
10.2.8 智能交通產(chǎn)品 313
參考文獻(xiàn)314
附錄一 移動(dòng)終端推理應(yīng)用開(kāi)發(fā)
示例315
附錄A TensorFlow Lite示例代碼315
附錄B PyTorch示例代碼315
附錄C Paddle Lite示例代碼316
附錄D VCAP示例代碼