無界：透視微軟創(chuàng)新研究之境

第1章　引領(lǐng)計(jì)算新范式 1
1.1　深入的科學(xué)研究比以往任何時(shí)候都更加重要 2
1.2　人工智能基礎(chǔ)創(chuàng)新的第二增長曲線 8
1.2.1　基礎(chǔ)模型是人工智能的第一性原理 10
1.2.2　推理效率是新一代基礎(chǔ)模型架構(gòu)革新的關(guān)鍵驅(qū)動(dòng)力 12
1.2.3　推動(dòng)多模態(tài)大語言模型演進(jìn)，邁向原生多模態(tài) 14
1.2.4　推進(jìn)通用型人工智能基礎(chǔ)研究第二增長曲線 16
1.3　大模型時(shí)代的計(jì)算機(jī)系統(tǒng)革新：更大規(guī)模、更分布式、更智能化 18
1.3.1　大規(guī)模和高效的計(jì)算機(jī)系統(tǒng)是下一代人工智能發(fā)展的基石 19
1.3.2　以智能化為內(nèi)核，重塑云計(jì)算系統(tǒng) 20
1.3.3　分布式系統(tǒng)將是分布式智能的關(guān)鍵基礎(chǔ)設(shè)施 22
1.3.4　未來的計(jì)算機(jī)系統(tǒng)將自我演化 23
1.4　媒體基礎(chǔ)：打開多模態(tài)大模型的新思路 24
1.4.1　打破復(fù)雜真實(shí)世界與抽象語義之間的壁壘 25
1.4.2　神經(jīng)編解碼器構(gòu)建多媒體的抽象表示 27
1.4.3　探索隱文本語言之外的另一種可能 28
1.5　創(chuàng)新智能環(huán)境帶來無線通信與感知的新視角 30
1.5.1　無線通信逼近理論極限，通信范圍成最大挑戰(zhàn) 31
1.5.2　突破傳統(tǒng)思維，為無線信道構(gòu)建可調(diào)整的
智能環(huán)境 32
1.5.3　創(chuàng)造智能環(huán)境，實(shí)現(xiàn)更易用的無線感知 35
1.6　大模型時(shí)代更需要計(jì)算機(jī)理論研究 39
1.6.1　計(jì)算機(jī)理論研究是一門交叉學(xué)科 39
1.6.2　通過理論研究獲得解釋 40
1.6.3　AI發(fā)展越快，計(jì)算機(jī)理論研究面臨的問題越多 41
1.6.4　新的技術(shù)方向推動(dòng)理論研究發(fā)展 42
1.6.5　大語言模型帶來的改變 43
1.6.6　理論研究更需要?jiǎng)?chuàng)新 44
1.7　AI編譯器界“工業(yè)重金屬四部曲” 45
1.7.1　AI編譯“夯土機(jī)”Rammer：提升硬件并行利用率 46
1.7.2　AI編譯“壓路機(jī)”Roller：提高編譯效率 48
1.7.3　AI編譯“電焊機(jī)”Welder：優(yōu)化全局訪存效率 49
1.7.4　AI編譯“研磨機(jī)”Grinder：實(shí)現(xiàn)控制流的高效執(zhí)行 51
1.8　統(tǒng)一化數(shù)據(jù)庫：為大語言模型垂域應(yīng)用奠定基礎(chǔ) 53
1.8.1　VBase復(fù)雜查詢系統(tǒng) 55
1.8.2　SPFresh：向量索引的實(shí)時(shí)就地增量更新 57
1.8.3　OneSparse：稀疏向量索引和稠密向量索引的統(tǒng)一化查詢 58
1.8.4　統(tǒng)一化數(shù)據(jù)庫加速大語言模型的發(fā)展和硬件創(chuàng)新 59
1.9　跨越模態(tài)邊界，探索原生多模態(tài)大語言模型 61
1.9.1　原生多模態(tài)大語言模型 62
1.9.2　語言是多模態(tài)模型的基礎(chǔ) 63
1.9.3　聲音與視頻模態(tài)也可以基于語言模型的方法建模 65
1.9.4　從算法和架構(gòu)上推動(dòng)原生多模態(tài)大語言模型發(fā)展 66
第2章　跨越學(xué)科的邊界 69
2.1　大模型在醫(yī)療健康領(lǐng)域的應(yīng)用 70
2.1.1　面向未來的情境研究：大語言模型與科研未來的交匯 70
2.1.2　GPT-4與醫(yī)療未來：人工智能的機(jī)遇與挑戰(zhàn) 72
2.1.3　人工智能與醫(yī)療決策：信任、監(jiān)管和自我規(guī)范 75
2.1.4　微軟視野：定義人工智能的未來方向 76
2.2　AI for Science，憧憬人人都可參與科學(xué)發(fā)現(xiàn)的未來 77
2.2.1　AI for Science的三個(gè)要素 78
2.2.2　AI for Science的基座模型要讀懂大自然的語言 80
2.2.3　聚焦微觀世界的深入探索與應(yīng)用 81
2.2.4　憧憬人人都可參與科學(xué)發(fā)現(xiàn)的未來 83
2.3　當(dāng)AI遇見大腦：電腦與人腦協(xié)同“進(jìn)化” 86
2.3.1　人工智能加速理解人腦，提升人腦健康水平 87
2.3.2　從腦啟發(fā)到創(chuàng)造新的人工智能 90
2.3.3　人工智能與腦科學(xué)研究需要跨領(lǐng)域和系統(tǒng)性的研究能力 93
2.4　人工智能≠機(jī)器“人”，激活大語言模型在產(chǎn)業(yè)界的巨大潛力 95
2.4.1　大語言模型在產(chǎn)業(yè)界潛力無限 96
2.4.2　落地產(chǎn)業(yè)界需要克服的四個(gè)難題 97
2.4.3　構(gòu)建產(chǎn)業(yè)基礎(chǔ)模型：融合通用知識和領(lǐng)域?qū)I(yè)知識 98
2.4.4　大語言模型引領(lǐng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型的下一波浪潮 102
2.5　守護(hù)人類健康：人工智能深入醫(yī)療創(chuàng)新 104
2.5.1　早發(fā)現(xiàn)、早治療：人工智能輔助疾病診斷與康復(fù)訓(xùn)練 104
2.5.2　病程預(yù)測與個(gè)性化治療：人工智能輔助精準(zhǔn)醫(yī)療 109
2.5.3　跨領(lǐng)域合作，釋放人工智能價(jià)值 110
第3章　堅(jiān)守社會(huì)責(zé)任與價(jià)值 113
3.1　人工智能治理如何跟上技術(shù)發(fā)展的腳步 114
3.1.1　人工智能的治理與未來：機(jī)遇、風(fēng)險(xiǎn)與共同進(jìn)化 115
3.1.2　國際合作在應(yīng)對人工智能風(fēng)險(xiǎn)和挑戰(zhàn)方面的作用 118
3.1.3　跨學(xué)科合作在人工智能發(fā)展中的作用和意義 119
3.1.4　如何為未來的人工智能培養(yǎng)跨學(xué)科人才 120
3.2　跨學(xué)科合作構(gòu)建具有社會(huì)責(zé)任的人工智能 121
3.2.1　在更大的影響來臨之前早做準(zhǔn)備 122
3.2.2　為人工智能設(shè)定“價(jià)值觀護(hù)欄” 123
3.2.3　讓AI始終處于人類視野之中 126
3.2.4　艱難但必要的跨學(xué)科合作 128
3.2.5　跨行業(yè)、跨學(xué)科共同協(xié)作，讓人工智能主動(dòng)承擔(dān)社會(huì)責(zé)任 129
3.3　價(jià)值觀羅盤：如何讓大模型與人類價(jià)值觀對齊 131
3.3.1　人工智能與人類價(jià)值觀對齊的四層目標(biāo) 132
3.3.2　價(jià)值觀對齊的三條路徑總結(jié) 135
3.3.3　理想的大模型價(jià)值觀對齊體系應(yīng)具備三大特性 137
3.3.4　BaseAlign算法：在基本價(jià)值空間中實(shí)現(xiàn)大模型對齊 139
3.4　為“冷門絕學(xué)”甲骨文研究插上科技之翼 145
3.4.1　甲骨文研究的歷史與價(jià)值 146
3.4.2　Diviner引領(lǐng)的文化遺產(chǎn)數(shù)字化 148
3.5　以科技之力，守護(hù)地球家園 154
3.5.1　跨學(xué)科基礎(chǔ)創(chuàng)新，助力實(shí)現(xiàn)碳中和目標(biāo) 155
3.5.2　解決真實(shí)場景中的現(xiàn)實(shí)問題 156
3.5.3　節(jié)能減排下一步：多技術(shù)角度打造綠色低碳數(shù)據(jù)中心 159
3.5.4　共建創(chuàng)新合作平臺(tái)，共營碳中和發(fā)展生態(tài) 159
第4章　培養(yǎng)跨學(xué)科人才，文化先行 163
4.1　讓AI滲透每個(gè)學(xué)科，交叉融合、共同成長 164
4.1.1　跨學(xué)科合作的重要性 166
4.1.2　人工智能給跨學(xué)科創(chuàng)新帶來的機(jī)遇 168
4.1.3　人工智能與生態(tài)學(xué)研究的結(jié)合 169
4.2　轉(zhuǎn)變思維，以使命和任務(wù)驅(qū)動(dòng)培養(yǎng)跨學(xué)科人才 170
4.2.1　自由研究與使命驅(qū)動(dòng)研究的平衡之道 172
4.2.2　變革思維與文化，驅(qū)動(dòng)科學(xué)智能發(fā)展 173
4.2.3　跨地域協(xié)作與項(xiàng)目管理 174
4.2.4　跨領(lǐng)域和跨學(xué)科研究 175
4.3　打造一流創(chuàng)新環(huán)境：協(xié)作、開放、可持續(xù) 176
4.3.1　開放積極：創(chuàng)新與年齡、資歷無關(guān) 177
4.3.2　透明無礙：打破一切無形的墻 179
4.3.3　多元包容：遵循三個(gè)原則，打造獨(dú)特文化 180
4.3.4　轉(zhuǎn)型思維方式：讓文化成為創(chuàng)新能源 183
4.4　AI系統(tǒng)研究：硬件和軟件的“雙向奔赴” 187
4.4.1　從“全棧式”視角看待系統(tǒng)與AI研究 187
4.4.2　匯溪成流，AI系統(tǒng)優(yōu)化360°迭代 188
4.4.3　以數(shù)據(jù)為脈絡(luò)，賦能百行千業(yè) 191
4.5　從生物跨界到計(jì)算機(jī)，只因“貪心”想做自己 193
4.5.1　做實(shí)驗(yàn)和寫代碼，我全都要 193
4.5.2　不管有沒有用，我全都學(xué) 194
4.5.3　遇到機(jī)會(huì)，就全力以赴 195
4.5.4　人生沒有最優(yōu)路徑 198
4.5.5　找到自己真正的熱愛，勇敢地走下去 198
4.6　三重跨越：從理論物理、腦科學(xué)到人工智能 200
4.6.1　從人工智能與腦科學(xué)的交叉研究，探索智能的
本質(zhì) 201
4.6.2　跨學(xué)科思維，帶來研究新靈感 204
4.6.3　跨領(lǐng)域合作：解決實(shí)際問題 206
4.6.4　從對游戲的鉆研，到對科研的堅(jiān)持 207
4.7　你相信“無線感知”嗎 208
4.7.1　遵循內(nèi)心渴望，來到微軟亞洲研究院 208
4.7.2　無線感知打開應(yīng)用新天地 209
4.7.3　想要從事無線感知研究？需要興趣導(dǎo)向，腦洞大開 212
第5章　不斷攀升科學(xué)匠人之路 215
5.1　博士之后，下一站在哪兒 216
5.1.1　新一代計(jì)算機(jī)博士的潛力、挑戰(zhàn)與成長路徑 216
5.1.2　卓越研究員的素質(zhì)：好奇心、真善美與跨學(xué)科創(chuàng)新 218
5.1.3　從理念、組織結(jié)構(gòu)、氛圍和制度設(shè)計(jì)上來支持創(chuàng)新 221
5.2　科研到底怎么做，什么是高質(zhì)量研究 224
5.2.1　為什么我們要進(jìn)行科學(xué)研究 225
5.2.2　什么是高質(zhì)量研究 227
5.2.3　如何能夠勇攀科研高峰 230
5.3　在研究中，你是否踩過這些工程的“坑” 233
5.3.1　代碼始終是基本功 233
5.3.2　“趕工”時(shí)最容易掉進(jìn)坑里 235
5.3.3　坑踩多了，自然就有了源代碼管理 236
5.3.4　開發(fā)流程管理可以簡單，但不能沒有 237
5.3.5　代碼之外，細(xì)節(jié)同樣決定成敗 240
5.4　探路“研究員 工程師”模式，推動(dòng)人工智能與系統(tǒng)協(xié)同進(jìn)化 243
5.4.1　微軟亞洲研究院（溫哥華）：專注特定領(lǐng)域智能的探索 244
5.4.2　人工智能與系統(tǒng)協(xié)同進(jìn)化，自動(dòng)設(shè)計(jì)AI系統(tǒng) 245
5.4.3　開展以目標(biāo)為導(dǎo)向的研究 246
5.4.4　從偶發(fā)躍遷式突破到持續(xù)漸進(jìn)發(fā)展 248
5.5　堅(jiān)持長期主義，是一個(gè)不斷說服自己的過程 250
5.5.1　以正確的方式做正確的事 250
5.5.2　層層遞進(jìn)研究，持續(xù)打磨成果 252
5.5.3　自由地選擇研究方向 253
5.5.4　做研究是一件長久的事 254
5.6　如何抓住時(shí)代機(jī)遇，做好關(guān)鍵選擇 256
5.6.1　變革的時(shí)刻 257
5.6.2　選擇的時(shí)刻 258
5.6.3　向上的時(shí)刻 261
5.7　在世界選擇你的瞬間，請積極面對 263
5.7.1　做自己喜歡的工作，20余年不變 264
5.7.2　在那個(gè)瞬間，世界選擇了你，請忘掉所謂的“頭銜” 265
5.7.3　對待工作和事業(yè)，要有欲望 268
參考文獻(xiàn) 270