AI安全：技術(shù)與實戰(zhàn)

●第1章 AI安全發(fā)展概述●
1.1 AI與安全衍生
1.1.1 AI發(fā)展圖譜
1.1.2 各國AI發(fā)展戰(zhàn)略
1.1.3 AI行業(yè)標準
1.1.4 AI安全的衍生本質(zhì)——科林格里奇困境
 
1.2 AI安全技術(shù)發(fā)展脈絡(luò)
 
●第2章 對抗樣本攻擊●
2.1 對抗樣本攻擊的基本原理
2.1.1 形式化定義與理解
2.1.2 對抗樣本攻擊的分類
2.1.3 對抗樣本攻擊的常見衡量指標
 
2.2 對抗樣本攻擊技巧與攻擊思路
2.2.1 白盒攻擊算法
2.2.2 黑盒攻擊算法
 
2.3 實戰(zhàn)案例：語音、圖像、文本識別引擎繞過
2.3.1 語音識別引擎繞過
2.3.2 圖像識別引擎繞過
2.3.3 文本識別引擎繞過
 
2.4 實戰(zhàn)案例：物理世界中的對抗樣本攻擊
2.4.1 目標檢測原理
2.4.2 目標檢測攻擊原理
2.4.3 目標檢測攻擊實現(xiàn)
2.4.4 攻擊效果展示
 
2.5 案例總結(jié)
 
●第3章 數(shù)據(jù)投毒攻擊●
3.1 數(shù)據(jù)投毒攻擊概念
 
3.2 數(shù)據(jù)投毒攻擊的基本原理
3.2.1 形式化定義與理解
3.2.2 數(shù)據(jù)投毒攻擊的范圍與思路
 
3.3 數(shù)據(jù)投毒攻擊技術(shù)發(fā)展
3.3.1 傳統(tǒng)數(shù)據(jù)投毒攻擊介紹
3.3.2 數(shù)據(jù)投毒攻擊約束
3.3.3 數(shù)據(jù)投毒攻擊效率優(yōu)化
3.3.4 數(shù)據(jù)投毒攻擊遷移能力提升
 
3.4 實戰(zhàn)案例：利用數(shù)據(jù)投毒攻擊圖像分類模型
3.4.1 案例背景
3.4.2 深度圖像分類模型
3.4.3 數(shù)據(jù)投毒攻擊圖像分類模型
3.4.4 實驗結(jié)果
 
3.5 實戰(zhàn)案例：利用投毒日志躲避異常檢測系統(tǒng)
3.5.1 案例背景
3.5.2 RNN異常檢測系統(tǒng)
3.5.3 投毒方法介紹
3.5.4 實驗結(jié)果
 
3.6 案例總結(jié)
 
●第4章 模型后門攻擊●
4.1 模型后門概念
 
4.2 后門攻擊種類與原理
4.2.1 投毒式后門攻擊
4.2.2 非投毒式后門攻擊
4.2.3 其他數(shù)據(jù)類型的后門攻擊
 
4.3 實戰(zhàn)案例：基于數(shù)據(jù)投毒的模型后門攻擊
4.3.1 案例背景
4.3.2 后門攻擊案例
 
4.4 實戰(zhàn)案例：供應(yīng)鏈攻擊
4.4.1 案例背景
4.4.2 解析APK
4.4.3 后門模型訓(xùn)練
 
4.5 實戰(zhàn)案例：基于模型文件神經(jīng)元修改的模型后門攻擊
4.5.1 案例背景
4.5.2 模型文件神經(jīng)元修改
4.5.3 觸發(fā)器優(yōu)化
 
4.6 案例總結(jié)
 
●第5章 預(yù)訓(xùn)練模型安全●
5.1 預(yù)訓(xùn)練范式介紹
5.1.1 預(yù)訓(xùn)練模型的發(fā)展歷程
5.1.2 預(yù)訓(xùn)練模型的基本原理
 
5.2 典型風險分析和防御措施
5.2.1 數(shù)據(jù)風險
5.2.2 敏感內(nèi)容生成風險
5.2.3 供應(yīng)鏈風險
5.2.4 防御策略
 
5.3 實戰(zhàn)案例：隱私數(shù)據(jù)泄露
5.3.1 實驗概況
5.3.2 實驗細節(jié)
5.3.3 結(jié)果分析
 
5.4 實戰(zhàn)案例：敏感內(nèi)容生成
5.4.1 實驗概況
5.4.2 實驗細節(jié)
5.4.3 結(jié)果分析
 
5.5 實戰(zhàn)案例：基于自診斷和自去偏的防御
5.5.1 實驗概況
5.5.2 實驗細節(jié)
5.5.3 結(jié)果分析
 
5.6 案例總結(jié)
 
●第6 章 AI數(shù)據(jù)隱私竊取●
6.1 數(shù)據(jù)隱私竊取的基本原理
6.1.1 模型訓(xùn)練中數(shù)據(jù)隱私竊取
6.1.2 模型使用中數(shù)據(jù)隱私竊取
 
6.2 數(shù)據(jù)隱私竊取的種類與攻擊思路
6.2.1 數(shù)據(jù)竊取攻擊
6.2.2 成員推理攻擊
6.2.3 屬性推理攻擊
 
6.3 實戰(zhàn)案例：聯(lián)邦學(xué)習(xí)中的梯度數(shù)據(jù)竊取攻擊
6.3.1 案例背景
6.3.2 竊取原理介紹
6.3.3 竊取案例
6.3.4 結(jié)果分析
 
6.4 實戰(zhàn)案例：利用AI水印對抗隱私泄露
6.4.1 案例背景
6.4.2 AI保護數(shù)據(jù)隱私案例
6.4.3 AI水印介紹
6.4.4 結(jié)果分析
 
6.5 案例總結(jié)
 
●第7 章 AI應(yīng)用失控風險●
7.1 AI應(yīng)用失控
7.1.1 深度偽造技術(shù)
7.1.2 深度偽造安全風險
 
7.2 AI應(yīng)用失控防御方法
7.2.1 數(shù)據(jù)集
7.2.2 技術(shù)防御
7.2.3 內(nèi)容溯源
7.2.4 行業(yè)實踐
7.2.5 面臨挑戰(zhàn)
7.2.6 未來工作
 
7.3 實戰(zhàn)案例：VoIP電話劫持 語音克隆攻擊
7.3.1 案例背景
7.3.2 實驗細節(jié)
 
7.4 實戰(zhàn)案例：深度偽造鑒別
7.4.1 案例背景
7.4.2 實驗細節(jié)
7.4.3 結(jié)果分析
 
7.5 案例總結(jié)
 
●后記 AI安全發(fā)展展望●