數(shù)據(jù)分析的結構化表征學習

第 1 章 緒論 1
1．1 表征學習的概念 1
1．2 結構化表征學習基礎 2
1．2．1 結構化表征學習的基礎理論和方法 2
1．2．2 結構化表征學習的應用 7
參考文獻 8
第 2 章 塊對角低秩表征學習 11
2．1 低秩表征學習方法 12
2．2 塊對角低秩表征學習的方法設計 13
2．3 塊對角低秩表征學習的優(yōu)化算法 15
2．4 識別算法的設計 18
2．5 塊對角低秩表征學習的算法分析 19
2．5．1 收斂性分析 19
2．5．2 計算時間復雜度 20
2．5．3 新樣本預測檢驗 20
2．6 與現(xiàn)有低秩表征學習方法的關系 22
2．6．1 與非負低秩表征稀疏方法的關系 22
2．6．2 與結構化稀疏低秩表征方法的關系 23
2．6．3 與監(jiān)督正則化魯棒子空間方法的關系 24
2．7 實驗驗證 24
2．7．1 實驗設置 24
2．7．2 在人臉識別任務中的實驗結果 25
2．7．3 在字符識別任務中的實驗結果 28
2．7．4 在場景識別任務中的實驗結果 30
2．7．5 優(yōu)勢分析 30
2．7．6 算法收斂性實驗驗證 32
2．7．7 算法參數(shù)敏感性經(jīng)驗分析 32
2．8 本章小結 33
參考文獻 34
第3 章 判別性彈性網(wǎng)正則化回歸表征學習 38
3．1 最小二乘回歸方法 39
3．2 基于彈性網(wǎng)正則化的回歸表征學習模型 40
3．2．1 一種普適的彈性網(wǎng)正則化回歸表征學習框架 40
3．2．2 判別性彈性網(wǎng)正則化回歸表征學習模型 42
3．2．3 判別性彈性網(wǎng)正則化回歸表征學習的快速模型 43
3．3 模型優(yōu)化求解和算法分類模型 44
3．3．1 模型的優(yōu)化求解 44
3．3．2 判別性回歸表征空間的構造和算法分類模型 47
3．4 算法分析 48
3．4．1 與經(jīng)典回歸模型的關系 48
3．4．2 時間復雜度和收斂性分析 48
3．5 實驗驗證 50
3．5．1 對比方法與實驗設置 50
3．5．2 在人臉識別任務中的實驗結果 51
3．5．3 在物體識別任務中的實驗結果 55
3．5．4 在場景識別任務中的實驗結果 55
3．5．5 與傳統(tǒng)的回歸表征學習模型進行對比分析 56
3．5．6 優(yōu)化算法的收斂條件和參數(shù)敏感性經(jīng)驗分析 57
3．5．7 算法效率分析 59
3．6 本章小結 60
參考文獻 61
第4 章 邊緣結構化表征學習 64
4．1 判別性最小二乘回歸方法 65
4．2 邊緣結構化表征學習模型 66
4．2．1 損失函數(shù) 66
4．2．2 算法復雜度正則項 67
4．2．3 自適應流形結構學習 68
4．3 邊緣結構化表征學習算法的優(yōu)化策略 70
4．3．1 求解優(yōu)化變量W、A 和B 70
4．3．2 求解優(yōu)化變量R 71
4．3．3 求解優(yōu)化變量P 72
4．4 半監(jiān)督學習模型的擴展 74
4．5 邊緣結構化表征學習的算法分析 74
4．5．1 優(yōu)化算法收斂性的理論分析 74
4．5．2 計算復雜度 75
4．6 實驗驗證 75
4．6．1 實驗設置 76
4．6．2 在物體識別任務中的實驗結果 77
4．6．3 在人臉識別任務中的實驗結果 79
4．6．4 在紋理識別任務中的實驗結果 81
4．6．5 在場景識別任務中的實驗結果 82
4．6．6 識別性能對比分析 83
4．6．7 算法參數(shù)敏感性經(jīng)驗分析 85
4．6．8 算法收斂性實驗驗證 87
4．6．9 效率對比分析 88
4．7 本章小結 89
參考文獻 89
第5 章 基于聯(lián)合學習的二值多視圖表征學習 93
5．1 二值多視圖表征學習框架 95
5．1．1 二值多視圖聚類模型 95
5．1．2 高效的可擴展多視圖圖像聚類分析模型 96
5．2 高效的可擴展多視圖圖像聚類算法 99
5．3 高效的可擴展多視圖圖像聚類算法分析 102
5．3．1 收斂性分析 102
5．3．2 復雜度分析 103
5．4 實驗驗證 103
5．4．1 數(shù)據(jù)集和評估標準 103
5．4．2 中等規(guī)模多視圖數(shù)據(jù)實驗驗證 104
5．4．3 大規(guī)模多視圖數(shù)據(jù)實驗驗證 107
5．4．4 經(jīng)驗性分析 108
5．4．5 可視化分析 113
5．5 本章小結 115
參考文獻 116
第6 章 基于靈活局部結構擴散的廣義不完整多視圖聚類 120
6．1 多視圖聚類方法 122
6．1．1 部分多視圖聚類 122
6．1．2 多個不完整視圖聚類 123
6．2 基于靈活局部結構擴散的廣義不完整多視圖聚類模型 123
6．2．1 單視圖個體表征學習 124
6．2．2 多視圖一致性表征學習 125
6．2．3 自適應加權多視圖學習 126
6．2．4 GIMC_FLSD 的總體目標函數(shù) 126
6．3 GIMC_FLSD 的優(yōu)化算法 127
6．4 GIMC_FLSD 的理論分析 129
6．4．1 計算復雜度 129
6．4．2 收斂性分析 130
6．4．3 與其他方法的聯(lián)系 130
6．5 實驗驗證 131
6．5．1 實驗配置 131
6．5．2 實驗結果和分析 133
6．5．3 時間復雜度分析 137
6．5．4 參數(shù)靈敏度分析 139
6．5．5 收斂性分析 142
6．6 本章小結 143
參考文獻 143
第7 章 可擴展的監(jiān)督非對稱哈希學習 148
7．1 哈希學習方法 149
7．2 可擴展的監(jiān)督非對稱哈希學習模型 151
7．2．1 問題定義 151
7．2．2 方法解析 152
7．3 可擴展的監(jiān)督非對稱哈希表征學習的優(yōu)化算法 154
7．3．1 交替優(yōu)化方法 154
7．3．2 收斂性分析 158
7．3．3 算法的樣本外擴展問題 158
7．4 實驗驗證 159
7．4．1 實驗數(shù)據(jù) 159
7．4．2 實驗設置 160
7．4．3 在CIFAR-10 圖像檢索數(shù)據(jù)集上的實驗結果 161
7．4．4 在Caltech-256 目標檢索數(shù)據(jù)集上的實驗結果 165
7．4．5 在SUN-397 場景檢索數(shù)據(jù)集上的實驗結果 167
7．4．6 在ImageNet 大規(guī)模數(shù)據(jù)集上的實驗結果 169
7．4．7 在NUS-WIDE 多實例數(shù)據(jù)集上的實驗結果 171
7．4．8 實驗分析和討論 173
7．5 本章小結 175
參考文獻 175
第8 章 深度語義協(xié)同哈希學習 181
8．1 哈希學習方法 182
8．2 深度語義協(xié)同哈希學習模型 184
8．2．1 問題定義 184
8．2．2 特征嵌入網(wǎng)絡 185
8．2．3 類別編碼網(wǎng)絡 186
8．2．4 構建語義不變結構 186
8．2．5 協(xié)同學習 187
8．3 深度語義協(xié)同哈希學習的優(yōu)化算法設計 187
8．3．1 訓練策略分析 187
8．3．2 樣本擴展問題 188
8．4 實驗驗證 188
8．4．1 實驗設置 189
8．4．2 評估標準 189
8．4．3 在NUS-WIDE 數(shù)據(jù)集上的實驗結果 189
8．4．4 在MIRFlickr 數(shù)據(jù)集上的實驗結果 193
8．4．5 在CIFAR-10 數(shù)據(jù)集上的實驗結果 196
8．4．6 子模塊分析 198
8．4．7 參數(shù)敏感性分析和可視化結果 199
8．5 本章小結 200
參考文獻 201
第9 章 判別性費希爾嵌入字典學習 205
9．1 相關工作 207
9．1．1 符號定義 207
9．1．2 畫像定義 207
9．1．3 FDDL 算法 208
9．2 判別性費希爾嵌入字典學習算法 209
9．2．1 判別性費希爾原子嵌入模型 209
9．2．2 判別性費希爾系數(shù)嵌入模型 210
9．2．3 DFEDL 算法的目標函數(shù) 211
9．3 判別性費希爾嵌入字典學習的優(yōu)化算法 211
9．4 算法對比與分析 213
9．4．1 DFEDL 算法與FDDL 算法的關系 214
9．4．2 時間復雜度分析 215
9．4．3 收斂性分析 215
9．5 實驗驗證 216
9．5．1 實驗配置 216
9．5．2 數(shù)據(jù)集描述 217
9．5．3 在深度特征數(shù)據(jù)集上的實驗結果 218
9．5．4 在手工數(shù)據(jù)集上的實驗結果 219
9．5．5 實驗結果分析 221
9．5．6 參數(shù)敏感性分析 222
9．5．7 實驗收斂性分析 223
9．5．8 不同原子數(shù)的影響 223
9．5．9 與深度學習模型的對比 224
9．6 本章小結 226
參考文獻 227
附錄 234
附錄A 引理9-1 及其證明過程 234
附錄B 引理9-2 及其證明過程 236
附錄C 定理9-1 及其證明過程 237