《人工智能安全》關注人工智能當下技術發(fā)展和產業(yè)應用中的安全問題，介紹了人工智能的發(fā)展歷程，梳理了人工智能安全面臨的挑戰(zhàn)和人工智能安全體系架構，分析了人工智能在安全治理領域的作用、國內外人工智能安全治理進展、人工智能安全未來發(fā)展等。
本書可供計算機、人工智能等相關領域專業(yè)人員作為人工智能安全開發(fā)、應用工作的參考，也可供不具備人工智能背景知識的人士閱讀。
本書關注人工智能當下技術發(fā)展和產業(yè)應用中正在發(fā)生的安全問題，內容包括現(xiàn)階段人工智能安全風險、人工智能在安全領域的應用情況、國內外人工智能的安全治理舉措、人工智能安全研究熱點等，對當前人工智能健康發(fā)展具有一定參考意義。
2016年3月，谷歌旗下DeepMind公司開發(fā)的AlphaGo機器棋手以4:1戰(zhàn)勝世界圍棋冠軍李世石。雖然十多年前國際象棋專家穆勒就預計，頂尖圍棋棋手臣服于人工智能（Artificial Intelligence，AI）腳下并不遙遠，但是這一天真的到來之時，還是讓人們不勝唏噓。AlphaGo的橫空出世在讓人們震驚的同時，也讓人工智能這一沉寂多年的技術術語又一次成為媒體熱詞，走進大眾視野。無論是在國家政策規(guī)劃、行業(yè)發(fā)展戰(zhàn)略，亦或是企業(yè)投融資方案、消費者分析報告中，都能夠看到人工智能“活躍”的身影。
當下，人工智能作為引領新一輪科技革命和產業(yè)變革的戰(zhàn)略性技術，正在對國家經濟發(fā)展、社會進步以及國際政治經濟格局等產生重大深遠的影響。美國、歐盟、英國等發(fā)達經濟體紛紛出臺人工智能國家發(fā)展戰(zhàn)略，加大人才培養(yǎng)、研發(fā)投入和產業(yè)投資，構建適合人工智能發(fā)展的政策環(huán)境和數(shù)據(jù)基礎，以期爭奪全球領先地位。日本、韓國、新加坡等亞太國家也制定出臺符合本國實際的人工智能發(fā)展行動計劃，以推進經濟發(fā)展和社會進步。
我國2017年發(fā)布《新一代人工智能發(fā)展規(guī)劃》，將人工智能發(fā)展提升到國家戰(zhàn)略�！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》將構建開放協(xié)同的人工智能科技創(chuàng)新體系、培育高端高效的智能經濟、建設安全便捷的智能社會、構建泛在安全高效的智能化基礎設施體系等作為重點任務，覆蓋了廣泛的人工智能研究方向和應用領域，力圖實現(xiàn)人工智能產業(yè)的全面發(fā)展。經過多年努力，我國已經躋身全球人工智能領先國家，在人工智能研發(fā)和商用方面，逐步縮小和美國的差距。當前，人工智能已廣泛應用于醫(yī)療、交通、金融、制造、家居、安防等多個領域，推動傳統(tǒng)行業(yè)的數(shù)字化轉型和智能化升級。特別是在新冠疫情期間，人工智能應用和產品更是充分發(fā)揮自感知、無接觸、全天候、無人化等技術優(yōu)勢，為疫情防控和復工復產提供“硬核”支撐。2020年3月4日，中共中央政治局常務委員會召開會議，提出要發(fā)力于科技端的新型基礎設施建設。作為“新基建”核心板塊，人工智能更加受到關注。人工智能借助其底層支撐技術的普遍適用性，基礎設施化特征更加明顯，將為經濟社會的智能化轉型和高質量發(fā)展賦能助力。
但是，當人們?yōu)槿斯ぶ悄馨l(fā)展歡呼雀躍的時候，人工智能安全風險正在悄無聲息地潛入人們生產生活的各個方面：擺在客廳里的智能音箱，有可能成為黑客的竊聽設備；廣泛部署的人臉識別設備，可能大量獲取公眾隱私；家人的語音通話，有可能是詐騙分子通過語音合成而來；行駛的自動駕駛車輛，有可能“失控”而成為馬路殺手。不斷暴露的人工智能安全問題，正在引發(fā)公眾的焦慮與擔心。同時，人工智能技術也會應用于傳統(tǒng)安全領域，為網絡空間安全防護、國家社會安全治理等提供新的技術手段，大大提升傳統(tǒng)安全的自動化和智能化水平。趨利避害，如何有效規(guī)避人工智能安全風險、加強人工智能安全應用，成為推進人工智能持續(xù)健康發(fā)展的重要保障。
目前關于人工智能的書籍大多是從發(fā)展的角度進行闡述，關注人工智能發(fā)展對經濟社會的促進和變革作用，包括李彥宏的《智能革命》、吳軍的《智能時代》、李開復的《AI·未來》等，以及從人工智能倫理角度介入，關注人類未來命運的書籍，包括邁克斯·泰格馬克的《生命3.0》、尤瓦爾·赫拉利的《未來簡史：從智人到神人》等。其中也不乏關注人工智能安全的章節(jié)，但更多是著眼于未來，擔心人工智能對未來社會就業(yè)的替代、人類隱私的掌控以及強人工智能對人類命運的影響：是會像馬克·扎克伯格宣揚的那樣造福人類生活？還是會像史蒂芬·霍金、埃隆·馬斯克警告的那樣威脅人類生存？
與以上書籍不同，本書更多是關注人工智能當下技術發(fā)展和產業(yè)應用中正在發(fā)生的安全問題，包括現(xiàn)階段人工智能安全風險、人工智能在安全領域的應用情況、國內外人工智能的安全治理舉措、人工智能安全研究熱點等，期望對當前人工智能健康發(fā)展具有一定的參考意義。本書的編寫團隊長期跟蹤人工智能安全態(tài)勢，進行人工智能安全風險、安全應用以及安全治理研究，在人工智能安全方面有較強的研究積累。
本書的編寫基于著者多年的研究，并凝聚最新的研究思考。本書各章節(jié)內容簡要介紹如下：第1章基于人工智能的發(fā)展歷程，著力理清現(xiàn)階段人工智能與安全的相互關系；第2章梳理總結人工智能安全挑戰(zhàn)，構建涵蓋國家社會安全、物理世界安全和網絡空間安全的人工智能安全體系架構；第3章選取人工智能在安全領域的熱點應用，分析人工智能在網絡空間安全防護和社會公共安全治理領域的促進作用；第4章分析國際人工智能安全治理進展，包括世界主要國家的人工智能安全治理部署思路和具體舉措；第5章分析國內人工智能安全治理情況，明晰取得的成果和存在的問題；第6章圍繞人臉識別、智能網聯(lián)汽車、深度偽造等人工智能應用先導和問題突出領域，聚焦熱點，進行有針對性的研究分析；第7章結合全書內容提出人工智能安全發(fā)展的總體展望，希望能夠和廣大讀者產生共鳴。
本書既可供計算機、人工智能等相關領域專業(yè)人員作為人工智能安全開發(fā)、應用工作的參考，也可供不具備人工智能背景知識的人士閱讀，了解人工智能安全的相關問題和理念，推進全行業(yè)、全社會層面的人工智能安全治理工作。
由于水平有限，且人工智能及安全尚在不斷發(fā)展過程中，如果讀者發(fā)現(xiàn)書中存在不足之處，懇請?zhí)岢鰧氋F意見，在此表示衷心感謝。
著者
2020年4月
第1章 人工智能與安全 // 001
1.1 人工智能 // 002
1.1.1 人工智能基本概念 // 002
1.1.2 人工智能發(fā)展歷程 // 004
1.2 人工智能安全 // 008
1.3 人工智能安全挑戰(zhàn)和機遇 // 011
1.3.1 安全挑戰(zhàn) // 011
1.3.2 安全機遇 // 012
1.3.3 安全治理 // 012
第2章 人工智能安全挑戰(zhàn) // 015
2.1 人工智能安全問題起源 // 016
2.2 人工智能安全體系架構 // 018
2.3 網絡空間安全挑戰(zhàn) // 019
2.3.1 網絡安全挑戰(zhàn) // 019
2.3.2 數(shù)據(jù)安全挑戰(zhàn) // 021
2.3.3 算法安全挑戰(zhàn) // 025
2.3.4 信息安全挑戰(zhàn) // 027
2.4 物理世界安全挑戰(zhàn) // 029
2.4.1 人身安全挑戰(zhàn) // 029
2.4.2 財產安全挑戰(zhàn) // 029
2.4.3 環(huán)境安全挑戰(zhàn) // 030
2.5 國家社會安全挑戰(zhàn) // 030
2.5.1 政體安全挑戰(zhàn) // 030
2.5.2 軍事安全挑戰(zhàn) // 031
2.5.3 就業(yè)安全挑戰(zhàn) // 032
2.5.4 倫理安全挑戰(zhàn) // 034
2.5.5 產業(yè)安全挑戰(zhàn) // 035
第3章 人工智能安全應用 // 039
3.1 概述 // 040
3.2 網絡空間安全應用 // 041
3.2.1 網絡安全防護應用 // 041
3.2.2 數(shù)據(jù)安全治理應用 // 045
3.2.3 內容安全審查應用 // 047
3.3 社會公共安全應用 // 049
3.3.1 智能安防應用 // 049
3.3.2 金融風控應用 // 051
3.3.3 網絡詐騙治理 // 052
3.3.4 新冠疫情防控 // 054
第4章 國際人工智能安全進展 // 059
4.1 主要國家在人工智能安全方面的部署 // 060
4.1.1 美國 // 060
4.1.2 歐盟 // 062
4.1.3 英國 // 063
4.1.4 其他 // 063
4.2 主要國家在人工智能安全方面的舉措 // 065
4.2.1 政策規(guī)劃 // 066
4.2.2 倫理原則 // 072
4.2.3 法律法規(guī) // 075
4.2.4 行政監(jiān)管 // 077
4.2.5 標準規(guī)范 // 081
4.2.6 人才隊伍 // 084
4.2.7 安全技術 // 085
4.2.8 產業(yè)生態(tài) // 090
第5章 我國人工智能安全進展 // 095
5.1 政策規(guī)劃 // 096
5.2 倫理原則 // 099
5.3 法律法規(guī) // 100
5.4 行政監(jiān)管 // 103
5.5 標準規(guī)范 // 106
5.6 人才隊伍 // 108
5.7 安全技術 // 111
5.8 產業(yè)生態(tài) // 113
第6章 人工智能安全研究熱點 // 117
6.1 算法智能推薦 // 118
6.1.1 概述 // 118
6.1.2 技術應用 // 118
6.1.3 風險挑戰(zhàn) // 120
6.1.4 治理動態(tài) // 122
6.1.5 措施建議 // 123
6.2 深度偽造技術 // 124
6.2.1 概述 // 124
6.2.2 技術應用 // 125
6.2.3 風險挑戰(zhàn) // 126
6.2.4 治理動態(tài) // 127
6.2.5 措施建議 // 129
6.3 生物特征識別 // 130
6.3.1 概述 // 130
6.3.2 技術應用 // 131
6.3.3 風險挑戰(zhàn) // 133
6.3.4 治理動態(tài) // 135
6.3.5 措施建議 // 141
6.4 智能網聯(lián)汽車 // 142
6.4.1 概述 // 142
6.4.2 技術應用 // 143
6.4.3 風險挑戰(zhàn) // 144
6.4.4 治理動態(tài) // 146
6.4.5 措施建議 // 147
6.5 人工智能詐騙防范治理 // 148
6.5.1 概述 // 148
6.5.2 技術應用 // 149
6.5.3 風險挑戰(zhàn) // 150
6.5.4 治理動態(tài) // 153
6.5.5 措施建議 // 157
第7章 人工智能安全展望 // 161
7.1 充分發(fā)揮倫理原則的指導作用 // 162
7.2 有序推進法律法規(guī)的制定出臺 // 163
7.3 適時完善行政監(jiān)管的機制建設 // 165
7.4 加快推動安全標準的研究制定 // 167
7.5 持續(xù)強化人才隊伍的引進培養(yǎng) // 169
7.6 深化開展安全研究和安全應用 // 170
7.7 瞄準補足智能產業(yè)的發(fā)展短板 // 172
7.8 全面加強社會公眾的宣傳引導 // 174
參考文獻 // 175
后記 // 177
書單推薦
