隱私保護(hù)機(jī)器學(xué)習(xí)

第1章 引言
1.1 背景
1.2 章節(jié)概覽
1.3 人工智能與機(jī)器學(xué)習(xí)
1.3.1 人工智能發(fā)展歷程
1.3.2 人工智能應(yīng)用現(xiàn)狀
1.4 隱私保護(hù)相關(guān)法律與標(biāo)準(zhǔn)
1.5 現(xiàn)狀與不足
1.5.1 隱私保護(hù)機(jī)器學(xué)習(xí)現(xiàn)狀
1.5.2 當(dāng)前存在的不足
1.6 本章小結(jié)
第2章 機(jī)器學(xué)習(xí)簡介
2.1 有監(jiān)督和無監(jiān)督學(xué)習(xí)
2.2 線性模型
2.2.1 基本形式
2.2.2 線性回歸
2.2.3 對數(shù)概率回歸
2.2.4 多分類問題
2.2.5 過擬合與欠擬合
2.3 樹模型
2.4 神經(jīng)網(wǎng)絡(luò)
2.4.1 神經(jīng)元模型
2.4.2 前饋神經(jīng)網(wǎng)絡(luò)
2.4.3 反向傳播算法
2.4.4 深度學(xué)習(xí)
2.5 圖神經(jīng)網(wǎng)絡(luò)
2.5.1 循環(huán)圖神經(jīng)網(wǎng)絡(luò)
2.5.2 圖卷積神經(jīng)網(wǎng)絡(luò)
2.5.3 圖自動編碼器
2.5.4 時(shí)空圖神經(jīng)網(wǎng)絡(luò)
2.5.5 圖神經(jīng)網(wǎng)絡(luò)的應(yīng)用
2.6 遷移學(xué)習(xí)
2.6.1 遷移學(xué)習(xí)的基本概念
2.6.2 遷移學(xué)習(xí)主要技術(shù)
2.6.3 遷移學(xué)習(xí)的應(yīng)用
2.7 本章小結(jié)
第3章 安全計(jì)算技術(shù)原理
3.1 概覽
3.2 不經(jīng)意傳輸
3.3 混淆電路
3.3.1 point-and-permute優(yōu)化
3.3.2 free-XOR優(yōu)化
3.3.3 GRR優(yōu)化
3.3.4 half-gates優(yōu)化
3.4 秘密分享
3.4.1 定義
3.4.2 Shamir算法
3.4.3 Blakley算法
3.5 同態(tài)加密
3.5.1 定義
3.5.2 加法同態(tài)
3.5.3 乘法同態(tài)
3.6 可信執(zhí)行環(huán)境
3.6.1 TEE定義
3.6.2 TEE架構(gòu)
3.6.3 常見的TEE實(shí)現(xiàn)
3.7 差分隱私
3.7.1 差分隱私基礎(chǔ)
3.7.2 差分隱私模型
3.8 本章小結(jié)
第4章 場景定義
4.1 數(shù)據(jù)切分
4.2 安全模型
4.2.1 理想世界/現(xiàn)實(shí)世界范式
4.2.2 半誠實(shí)模型
4.2.3 惡意模型
4.2.4 小結(jié)
4.3 多方聯(lián)合計(jì)算模式
4.3.1 外包多方計(jì)算
4.3.2 端到端多方計(jì)算
4.3.3 服務(wù)器輔助的多方計(jì)算
4.3.4 對比分析
4.4 安全等級
4.5 本章小結(jié)
第5章 隱私求交
5.1 概念及應(yīng)用
5.2 基于樸素哈希的隱私求交
5.2.1 哈希函數(shù)
5.2.2 基于哈希函數(shù)的隱私求交
5.3 基于迪菲-赫爾曼的隱私求交技術(shù)
5.3.1 迪菲-赫爾曼密鑰交換算法
5.3.2 基于迪菲-赫爾曼的隱私求交算法
5.4 基于不經(jīng)意傳輸?shù)碾[私求交技術(shù)
5.5 基于同態(tài)加密的隱私求交技術(shù)
5.6 本章小結(jié)
第6章 MPC計(jì)算框架
6.1 計(jì)算框架概述
6.2 協(xié)議說明
6.3 Sharemind框架
6.3.1 輸入和輸出
6.3.2 密態(tài)計(jì)算
6.3.3 結(jié)果輸出
6.4 ABY框架
6.5 惡意威脅模型下的框架
6.5.1 SPDZ和BMR
6.5.2 SPDZ協(xié)議相關(guān)
6.5.3 BMR協(xié)議相關(guān)
6.6 本章小結(jié)
第7章 線性模型
7.1 邏輯回歸簡介
7.2 基于秘密分享的方法
7.2.1 數(shù)據(jù)水平切分場景下的方法
7.2.2 數(shù)據(jù)垂直切分場景下的方法
7.3 基于同態(tài)加密和秘密分享混合協(xié)議的方法
7.4 本章小結(jié)
第8章 樹模型
8.1 梯度提升決策樹簡介
8.2 MPC決策樹
8.2.1 安全多方計(jì)算的數(shù)據(jù)處理
8.2.2 協(xié)議對浮點(diǎn)數(shù)的處理
8.2.3 安全多方計(jì)算協(xié)議
8.2.4 基于MPC的決策樹預(yù)測協(xié)議
8.3 SecureBoost算法
8.3.1 單棵決策樹訓(xùn)練算法
8.3.2 單棵決策樹預(yù)測算法
8.4 HESS-XGB算法
8.5 本章小結(jié)
第9章 神經(jīng)網(wǎng)絡(luò)
9.1 神經(jīng)網(wǎng)絡(luò)簡介
9.2 聯(lián)邦學(xué)習(xí)
9.3 拆分學(xué)習(xí)
9.4 密碼學(xué)方法
9.4.1 基于安全多方計(jì)算的神經(jīng)網(wǎng)絡(luò)
9.4.2 基于同態(tài)加密的神經(jīng)網(wǎng)絡(luò)
9.5 服務(wù)器輔助的隱私保護(hù)機(jī)器學(xué)習(xí)
9.5.1 動機(jī)
9.5.2 模型總體介紹
9.5.3 客戶端聯(lián)合計(jì)算第一個(gè)隱層
9.5.4 服務(wù)器計(jì)算中間隱層
9.5.5 客戶端做模型預(yù)測
9.5.6 模型訓(xùn)練
9.5.7 防御機(jī)制
9.6 本章小結(jié)
第10章 推薦系統(tǒng)
10.1 推薦系統(tǒng)簡介
10.2 常見推薦算法
10.2.1 協(xié)同過濾
10.2.2 矩陣分解
10.2.3 邏輯回歸
10.2.4 因子分解機(jī)
10.3 隱私保護(hù)推薦系統(tǒng)概述
10.3.1 基于所解決的弱點(diǎn)進(jìn)行分類
10.3.2 基于所面對的場景進(jìn)行分類
10.3.3 基于所使用的方法進(jìn)行分類
10.4 隱私保護(hù)推薦算法
10.4.1 隱私保護(hù)矩陣分解
10.4.2 隱私保護(hù)因子分解機(jī)
10.4.3 SeSoRec
10.5 本章小結(jié)
第11章 基于TEE的機(jī)器學(xué)習(xí)系統(tǒng)
11.1 SGX
11.1.1 隔離控制
11.1.2 完整性度量和身份認(rèn)證
11.2 SGX應(yīng)用開發(fā)
11.2.1 基于SGX SDK
11.2.2 基于SGX LibOS
11.3 基于SGX的隱私保護(hù)機(jī)器學(xué)習(xí)實(shí)例
11.3.1 Chiron
11.3.2 TensorSCONE
11.4 集群化
11.4.1 同構(gòu)組網(wǎng)的無狀態(tài)在線服務(wù)
11.4.2 異構(gòu)組網(wǎng)的XGBoost訓(xùn)練系統(tǒng)
11.5 側(cè)信道加固
11.5.1 側(cè)信道攻擊