【編者按】在本期“不合時(shí)宜”播客節(jié)目中，主播媒體人王磐與作為軟件工程師、自媒體博主的嘉賓木遙圍繞迎來(lái)飛躍式發(fā)展的ChatGPT與人工智能展開(kāi)討論。ChatGPT如何實(shí)現(xiàn)其本身的技術(shù)進(jìn)步？它展現(xiàn)出的因果鏈條能力為什么如此重要？通用人工智能距離我們還有多遙遠(yuǎn)？面對(duì)人工智能的飛速發(fā)展，人類(lèi)應(yīng)該如何找尋自己的價(jià)值？本文原載于《不合時(shí)宜TheWeirdo》公眾號(hào)。
王磬：今天錄制之前，我也在微信上刷了一刷。我看到昨天被分享了很多的一篇文章。這個(gè)標(biāo)題我給你念一下，感受一下焦慮的程度。叫“微軟深夜放炸彈、GPT4office全家桶發(fā)布，10億打工人被革命”。這類(lèi)型的標(biāo)題在過(guò)去這段時(shí)間里面已經(jīng)可以說(shuō)是屢見(jiàn)不鮮。一方面，媒體在寫(xiě)作的時(shí)候會(huì)希望通過(guò)這樣的一些標(biāo)題去吸引更多的流量。但另一個(gè)方面，我也在讀木遙老師的微博時(shí)感受到：現(xiàn)在如果仍然評(píng)價(jià)ChatGPT，取得的這些進(jìn)展“什么都不是”，其實(shí)也是很有誤會(huì)的一種解讀。我這學(xué)期正好在香港中文大學(xué)新聞學(xué)院做訪學(xué)，在給這邊的學(xué)生在開(kāi)一門(mén)課程，也是在我們上課的過(guò)程當(dāng)中，GPT火了起來(lái)。在我們新聞業(yè)，大家就會(huì)擔(dān)心。碼字這件事兒以前可能還算是一個(gè)智力活兒，但是現(xiàn)在ChatGPT出現(xiàn)了之后就不一定了。我覺(jué)得但凡親自玩過(guò)的人都會(huì)驚訝于是它遣詞造句的成熟的程度，雖然它仍然有一些問(wèn)題。我覺(jué)得當(dāng)它以這種一個(gè)高度智能化、高度擬人化的形態(tài)出現(xiàn)在大眾面前的時(shí)候，是會(huì)讓人產(chǎn)生一些焦慮。
我是文科生，不懂技術(shù)，會(huì)提出一些比較基本的問(wèn)題，希望能夠回應(yīng)到普通大眾對(duì)于這個(gè)議題的一些疑惑。我知道你這幾年其實(shí)一直都有在關(guān)注AI的發(fā)展，也在社交媒體上有做一些分享。你要不要先分享一下，你最開(kāi)始接觸到ChatGPT大概是在什么時(shí)候？
木遙：我可以簡(jiǎn)單梳理一下GPT的發(fā)展，我不想把它變成一個(gè)像科普一樣的嚴(yán)肅討論，但是我覺(jué)得理清一些時(shí)間線可能會(huì)對(duì)大家了解這個(gè)事情有幫助。順便說(shuō)一下，你剛才描述的那種心理，就是一部分人非常焦慮，另外一部分人可能會(huì)有一點(diǎn)不屑一顧，甚至懷疑這個(gè)媒體是不是過(guò)度炒作了，包括那些震驚式的自媒體是不是在故弄玄虛。我覺(jué)得這都是非常真實(shí)的反應(yīng)，我們待會(huì)也可以展開(kāi)講講我覺(jué)得遺憾的、大家可能視角不夠完善的部分在哪里。但是我現(xiàn)在回答你的問(wèn)題就是時(shí)間線的問(wèn)題。ChatGPT不是第一代GPT，很多人可能知道它背后的技術(shù)叫做GPT3.5。GPT大語(yǔ)言模型本身進(jìn)入研究者的視線是兩三年前，但是第一次比較成熟應(yīng)該是GPT3，但是3的時(shí)候還是更多停留在業(yè)內(nèi)，跟一般的大眾沒(méi)有什么關(guān)系。ChatGPT作為3.5的一個(gè)推向大眾的demo版本，一下子引起了普通人的關(guān)注。這是在去年年底的時(shí)候。我在去年年底的時(shí)候發(fā)過(guò)一條微博，我說(shuō)我覺(jué)得以后歷史書(shū)上會(huì)記載2022年最重要的歷史事件是ChatGPT的發(fā)布，而不是俄烏戰(zhàn)爭(zhēng)。當(dāng)時(shí)很多評(píng)價(jià)是覺(jué)得完全莫名其妙，怎么可能。但我覺(jué)得今天可能同意這個(gè)說(shuō)法的人會(huì)多一點(diǎn)。
前兩天大家也知道OpenAI推出了GPT4。這個(gè)版本號(hào)聽(tīng)起來(lái)有點(diǎn)瑣碎，有點(diǎn)像我們說(shuō)iPhone13、14、15一樣。但其實(shí)不是，因?yàn)榕銮墒窃贕PT3和3.5之間，它的能力發(fā)生了一個(gè)飛躍。這個(gè)飛躍使得GPT3.5一下子沖破了我們之前認(rèn)為大語(yǔ)言模型不太可能沖破的一些限制，使得它到達(dá)了一個(gè)新的高度。但也正是因?yàn)橥黄票旧矸浅Ｐ?，它發(fā)生在過(guò)去的一兩年內(nèi)，它沒(méi)有進(jìn)入大眾視野。大眾也不太了解這個(gè)飛躍的實(shí)質(zhì)和它的影響。所以很多人可能還在用一種比較過(guò)時(shí)的眼光來(lái)看大語(yǔ)言模型，所以對(duì)它會(huì)有誤解。這些人不光是一般的老百姓，包括一些非常知名的人士。我相信磬肯定知道兩周前喬姆斯基在紐約時(shí)報(bào)上發(fā)表了一篇文章，主題就是這個(gè)東西沒(méi)有什么大不了的。但這篇文章發(fā)表出來(lái)之后，基本上被業(yè)內(nèi)人群嘲，大家覺(jué)得真的是廉頗老矣。原因不在于喬姆斯基本人的語(yǔ)言學(xué)觀念是不是正確，原因在于他對(duì)這個(gè)新技術(shù)明顯停留在一個(gè)過(guò)時(shí)的認(rèn)知上。他中間舉了一個(gè)例子說(shuō)，你看GPT是不可能回答什么什么什么樣問(wèn)題的，但是事實(shí)上你只要打開(kāi)GPT試一下就知道其實(shí)是可以的。所以我覺(jué)得要理解ChatGPT這個(gè)事情，需要了解過(guò)去時(shí)間線，特別是我剛說(shuō)的飛躍是什么。
簡(jiǎn)單地介紹一下這個(gè)事情，為什么大家過(guò)去覺(jué)得這個(gè)事情是有限制的，而今天又發(fā)現(xiàn)它的限制被突破了。大語(yǔ)言模型，傳統(tǒng)上被認(rèn)為是一個(gè)統(tǒng)計(jì)模型。什么是統(tǒng)計(jì)模型？很多人可能聽(tīng)過(guò)這樣的描述，它的工作機(jī)理是你給它一些你說(shuō)過(guò)的詞，它根據(jù)在語(yǔ)料中學(xué)到的統(tǒng)計(jì)相關(guān)性來(lái)預(yù)測(cè)下一個(gè)詞是什么。機(jī)制聽(tīng)起來(lái)過(guò)于的簡(jiǎn)單粗暴和無(wú)聊，以至于很多人覺(jué)得這怎么可能描繪人的大腦的工作方式，我們大腦又不是這么簡(jiǎn)單的機(jī)理——你看了100萬(wàn)個(gè)文本，你記住哪些詞后面有可能跟哪些詞。這不是我們思考的方式對(duì)不對(duì)？也正是因?yàn)槿绱耍芏嗳藢?duì)這一類(lèi)統(tǒng)計(jì)模型的能力的上限，事實(shí)上一直以來(lái)是低估的，直到3.0為止，它確實(shí)表現(xiàn)的就像是一個(gè)統(tǒng)計(jì)模型，它能夠說(shuō)出一些比較像是人說(shuō)的話，但是你說(shuō)它有意識(shí)，好像還不至于。從3.0到3.5之間發(fā)生了什么？發(fā)生了一個(gè)新的飛躍，這個(gè)飛躍是因果鏈條能力的建立。我以前在微博上寫(xiě)過(guò)這個(gè)事情。什么是因果鏈條？就是它可以做一些推斷性的事了。它不只是我通過(guò)前一段詞來(lái)推斷下一個(gè)詞是什么，而是我能進(jìn)行一些類(lèi)似于邏輯上的思考。比方你給他說(shuō)我把一個(gè)香蕉放進(jìn)一個(gè)紙袋子里面，但我又從紙袋里面取出一個(gè)蘋(píng)果，就說(shuō)明什么事情。如果你只是從字眼上的概率，你是很難想象這段話的下一個(gè)字眼最大概率是什么的。但是我們有邏輯，我們可以想說(shuō)，這是因?yàn)榧埓锩姹緛?lái)就得有一個(gè)蘋(píng)果，對(duì)不對(duì)？這個(gè)事情是邏輯上的想法，它不是單純字詞上的相關(guān)性導(dǎo)致。它需要你對(duì)這個(gè)紙袋子是什么東西，為什么香蕉進(jìn)去，蘋(píng)果出來(lái)有一點(diǎn)特殊性。它反映了什么問(wèn)題？你需要有一個(gè)世界知識(shí)在后面。這個(gè)東西傳統(tǒng)上是大家認(rèn)為在語(yǔ)言模型的限制之外。但是從3.5開(kāi)始，大語(yǔ)言模型可以回答這類(lèi)問(wèn)題了，可以建立這樣的因果鏈條了。這個(gè)飛躍很大程度上是出乎人們意料的。事實(shí)上，它為什么能夠做到，在今天仍然是研究領(lǐng)域的一個(gè)熱門(mén)話題。即使AI的研究者也不是百分之百地理解它為什么能夠做到了。但是越來(lái)越多的實(shí)驗(yàn)表明，它真的可以做到。關(guān)于這個(gè)領(lǐng)域的論文，如果有感興趣的專(zhuān)業(yè)讀者可以去搜所謂的思維鏈條的領(lǐng)域，它是過(guò)去兩年的一個(gè)非常非常熱門(mén)的領(lǐng)域。因?yàn)檫@個(gè)領(lǐng)域的出現(xiàn)，使得從3.5開(kāi)始，語(yǔ)言模型一下子變得成熟起來(lái)了。
不管它怎么做到的，至少它有了一個(gè)好像是世界圖景在它腦海之中的時(shí)候，它跟你聊天的就會(huì)顯得非常非常的真實(shí)，就不像是只是話趕話在說(shuō)一些似是而非的東西。正是因?yàn)檫@個(gè)飛躍，使得3.5一下子變得可以面向大眾了。所以從去年底開(kāi)始，OpenAI推出一個(gè)demo推到大家面前，引爆了整個(gè)媒體和一般老百姓的視野。之后，今年3月份順勢(shì)推出了比較成熟的GPT4。GPT4具體會(huì)引爆什么樣的？接下來(lái)的連鎖反應(yīng)我們還要再看。但是這是正在發(fā)生的故事。
王磬：你剛剛提到的真正具有突破性進(jìn)展的是關(guān)于因果鏈條的建立。為什么建立因果鏈條那么重要？之前技術(shù)上不能夠達(dá)到的難點(diǎn)主要是什么？
木遙：這有點(diǎn)技術(shù)性，但是我可以試著回答一下這個(gè)問(wèn)題。如果我的回答有點(diǎn)過(guò)于枯燥，你可以隨時(shí)打斷。有一本很著名的書(shū)，叫做《思考快與慢》，它講的是人的思考的兩種模式，一種模式叫做快模式。什么是快模式？就是你看到一個(gè)東西，你本能地做出反應(yīng)，這個(gè)本能是來(lái)自于人的動(dòng)物性，所以這部分是人和動(dòng)物共有的。你在眼前閃現(xiàn)過(guò)一個(gè)紅色，你馬上感知到危險(xiǎn)。這個(gè)東西是不經(jīng)過(guò)思考的。就是千百年來(lái)的生物本能，讓你感覺(jué)到危險(xiǎn)。你看到一個(gè)好看的異性或者同性，whatever，你會(huì)覺(jué)得ta對(duì)我有吸引力。這個(gè)也是，它不經(jīng)過(guò)思考，它直接就觸發(fā)你的荷爾蒙。這東西叫快思考。慢思考是你必須要一步一步想問(wèn)題。就像我們做高考題一樣，你不可能看到題目馬上腦海中就閃現(xiàn)出答案來(lái)，除非那個(gè)題你見(jiàn)過(guò)。你必須要一步步想題面題干內(nèi)容說(shuō)明了什么，它又說(shuō)明什么，所以推出答案應(yīng)該選A。這個(gè)過(guò)程是快不了的，它必須有一大堆中間步驟。這個(gè)東西叫慢思考。慢思考一般認(rèn)為是人類(lèi)有的，動(dòng)物是沒(méi)有的，或者至少極少數(shù)的高等動(dòng)物，海豚這樣的可能會(huì)有，但大部分動(dòng)物是沒(méi)有的。傳統(tǒng)意義上的神經(jīng)網(wǎng)絡(luò)模仿的是人的快思考，哪怕像AlphaGO這樣會(huì)下棋的非常聰明的神經(jīng)網(wǎng)絡(luò)，它也是快思考。為什么？它就是一個(gè)單純的網(wǎng)絡(luò)。一頭有輸入，一頭有輸出。我們通過(guò)訓(xùn)練使得它知道什么樣的輸入，應(yīng)該有什么樣的輸出。把它放在現(xiàn)實(shí)生活中，給它一個(gè)輸入，它給你一個(gè)輸出，在這個(gè)過(guò)程中是沒(méi)有步驟的。這也是為什么神經(jīng)網(wǎng)絡(luò)長(zhǎng)期被人詬病，說(shuō)它是一個(gè)黑盒子，因?yàn)樗鼪](méi)有任何中間的過(guò)程，就是一頭輸入，一頭輸出。神經(jīng)網(wǎng)絡(luò)可能非常深，它中間的模仿函數(shù)的網(wǎng)絡(luò)的結(jié)構(gòu)可能是好多步，但是只是它思考的函數(shù)非常復(fù)雜，但它仍然沒(méi)有步驟。它只是一個(gè)非常非常復(fù)雜的函數(shù)，仍然一步到位的從輸入到算出來(lái)。而思維鏈條（COT）是完全不同的方式。它不是從輸入一步到輸出，它在模仿人類(lèi)思考的東西。我給它一個(gè)輸入，它先想第一步中間過(guò)程，用第一步中間過(guò)程想一個(gè)第二步中間過(guò)程，第二步讓過(guò)程想第三步中間過(guò)程，推出一個(gè)結(jié)果。一旦你能夠建立起這種結(jié)構(gòu)來(lái)，你就能夠做到快思考不能夠做到的事情。因?yàn)槲覀兒芏嗳祟?lèi)的思考過(guò)程是這樣的，你要把一堆信息綜合在一起，推出一堆中間結(jié)果，最終得到一個(gè)我們要的結(jié)論。
這個(gè)東西不要說(shuō)低等動(dòng)物，就是比較高級(jí)的，哪怕像貓和狗這樣的動(dòng)物，它其實(shí)都未必能做到，對(duì)吧？貓能夠做到一步步想問(wèn)題，其實(shí)有點(diǎn)懸，對(duì)吧？但是今天的AI，至少2021年以后的AI開(kāi)始逐漸能夠做到這一點(diǎn)了。這就是我剛才為什么我說(shuō)它是一個(gè)非常本質(zhì)的飛躍。
王磬：我覺(jué)得剛才你那個(gè)例子還是很有幫助的。我只能說(shuō)我現(xiàn)在比剛才5分鐘之前稍微了解的更多了一點(diǎn)。但是我仍然感覺(jué)到有很多疑惑的地方，比如像AI有多聰明這個(gè)事，其實(shí)也是過(guò)去這幾年或者十幾年大家一直在聊的一個(gè)事，包括像去年也比較火的那種AI繪畫(huà)，你輸一堆東西，AI它能給你畫(huà)出那么漂亮，甚至是獨(dú)一無(wú)二的一些作品。所以我覺(jué)得是不是對(duì)業(yè)界人士來(lái)說(shuō)，ChatGPT它實(shí)現(xiàn)的飛躍其實(shí)是一個(gè)一系列的技術(shù)進(jìn)步中的一環(huán)，但是到了社交媒體上之后，因?yàn)榇蠹铱赡苤皼](méi)有一直在關(guān)注，才會(huì)有一個(gè)印象，覺(jué)得這是一個(gè)技術(shù)性上的前所未有的提升，以至于導(dǎo)致了某種程度的恐慌。在你看來(lái)，技術(shù)飛躍的實(shí)現(xiàn)是一個(gè)怎樣的過(guò)程？
木遙：我覺(jué)得是個(gè)很好的問(wèn)題，飛躍怎么樣放到一個(gè)更大的坐標(biāo)系里面來(lái)觀察。事實(shí)上，這個(gè)問(wèn)題的業(yè)內(nèi)人士本身在社交媒體上也有觸及過(guò)。很多人發(fā)現(xiàn)了一個(gè)現(xiàn)象，好像業(yè)內(nèi)的興奮更大，業(yè)外一部分人覺(jué)得焦慮，而另外一部分人覺(jué)得這跟我有什么關(guān)系？或者是不是又是狼來(lái)了，又是炒作。而更重要的是，就是如你所說(shuō)的，因?yàn)槲覀兌贾?，今天大家已?jīng)被社交媒體訓(xùn)練的已經(jīng)皮了，對(duì)吧？不管多大的事，都是震驚，其結(jié)果就是你分不出這個(gè)震驚的數(shù)量級(jí)，到底是10倍的震驚還是1萬(wàn)倍的震驚。反正它的標(biāo)題都是震驚、嘆號(hào)。所以你有必要把它放在一個(gè)真實(shí)的坐標(biāo)系里，來(lái)考慮這個(gè)東西到底是多大的一個(gè)事兒。它和別的事，比方和Alphago這樣的事兒，或者和畫(huà)圖這樣的事兒相比，是怎么樣的？這里面經(jīng)常有一個(gè)概念叫做AGI，就是通用人工智能。通用人工智能一般被認(rèn)為是人工智能領(lǐng)域的圣杯。什么意思？通用人工智能是一切問(wèn)題的母問(wèn)題。你要讓AI或者讓機(jī)器來(lái)做一個(gè)特定的任務(wù)，這件事情斷斷續(xù)續(xù)是一直都有進(jìn)展的。AI進(jìn)展會(huì)下棋了，AI可能也會(huì)作曲了，AI也會(huì)畫(huà)畫(huà)等等。但什么叫通用人工智能？同一個(gè)模型能夠同時(shí)做很多事，這件事情是困難的。因?yàn)橥粋€(gè)模型能夠同時(shí)做很多事，意味著它不只是被某一個(gè)特定的任務(wù)所訓(xùn)練成了一個(gè)熟手，不管怎么訓(xùn)練出來(lái)的，而是它真正好像人一樣，了解了關(guān)于世界的某些更本質(zhì)的運(yùn)作機(jī)理。你可以想象，你訓(xùn)練寵物狗幫你掉拖鞋。有一天，它非常非常熟練，可以認(rèn)出你喜歡穿什么鞋，知道你每天回來(lái)最喜歡穿什么樣的拖鞋，知道你哪天回來(lái)心情不好，不用給你拿拖鞋，這都是有可能的。這說(shuō)明這個(gè)狗真的很聰明。但是如果有一天這個(gè)狗開(kāi)始說(shuō)我不只是幫你拿拖鞋了，同時(shí)我還幫你做飯，你就會(huì)覺(jué)得這里面一定有某些不尋常的事情了。因?yàn)槟阍僭趺从?xùn)練教拖鞋，這個(gè)能力不可能轉(zhuǎn)化到做飯上。而通用人工智能的意思就是我能夠訓(xùn)練出一個(gè)模型，既能夠拿拖鞋，又能夠做飯，這說(shuō)明什么？這說(shuō)明它不只是單純被你訓(xùn)練成一個(gè)熟練工，它一定了解了某些關(guān)于世界運(yùn)作的方式——鞋是什么，飯是什么，以及我該怎么做這些東西。這個(gè)認(rèn)知就要到一個(gè)非常非常底層的層面了。這就是為什么ChatGPT它本身引起的震動(dòng)比之前那些震動(dòng)都大。因?yàn)镃hatGPT可以說(shuō)是人類(lèi)看到AGI通過(guò)人工智能的第一線曙光，它終于有點(diǎn)通用的意思了。
你今天也試用過(guò)，你也知道，你問(wèn)它的問(wèn)題并不需要局限于任何一個(gè)特定的話題方向，對(duì)不對(duì)？你問(wèn)它什么都可以讓他寫(xiě)詩(shī)。你讓他模仿某某人去寫(xiě)一個(gè)微博，或者你問(wèn)它一個(gè)技術(shù)問(wèn)題，讓它寫(xiě)一個(gè)代碼都可以，這就有點(diǎn)通用的意思了。特別是你可以很容易想象，既然它可以說(shuō)話，它就可以通過(guò)這些話再去指導(dǎo)別的行為，對(duì)不對(duì)？今天也有很多這樣的工具，讓GPT去控制一個(gè)agent，就是一個(gè)代理讓它來(lái)進(jìn)一步控制電器，進(jìn)一步控制跟物理世界發(fā)生關(guān)聯(lián)的、操縱的東西。就理論上來(lái)說(shuō)完全可以通過(guò)語(yǔ)言來(lái)真正做一些事兒，而它的語(yǔ)言本身又不限于話題，他就好像真的可以做很多我們生活中可以做到的事情。我不知道你有沒(méi)有看上周四所發(fā)布的微軟發(fā)布的新的office。這個(gè)東西對(duì)人的沖擊是很大的，因?yàn)榇蠹叶加胦ffice，如果AI只是能夠用來(lái)跟你聊天，還只是一個(gè)聊天機(jī)器人。如果AI可以幫你寫(xiě)文檔，可以幫你寫(xiě)PPT，可以幫你寫(xiě)郵件，可以幫你做會(huì)議總結(jié)，它就幾乎可以做95%白領(lǐng)的日常工作了，對(duì)吧？通用性是飛躍在業(yè)界引起最大震動(dòng)的部分。所以如果我們用震驚體來(lái)描述這次的震驚，是真的比較震驚，比之前的那些震驚要高至少一個(gè)數(shù)量級(jí)。
王磬：如果從你剛才說(shuō)的意思來(lái)看，它之所以能夠高這一個(gè)數(shù)量級(jí)的一個(gè)很重要的原因是在于它好像讓語(yǔ)言具有了一個(gè)直接去行動(dòng)的能力。這部分能力可能以前的時(shí)候大家還會(huì)覺(jué)得未來(lái)的方向可能會(huì)是AI結(jié)合，人仍然還是占據(jù)一個(gè)非常重要的角色，但只不過(guò)你用了AI，這樣可以讓你工作中更有效率。但是一旦AI具有了直接的行動(dòng)能力，它其實(shí)是完全可以某種程度上取代掉人的?？梢赃@么理解嗎？
木遙：我覺(jué)得取代不是一個(gè)好的詞兒，因?yàn)槿〈且粋€(gè)非常容易反駁的詞兒。我可以說(shuō)我仍然會(huì)干什么什么，AI干不了，所以它取代不了我。但正是這種字面上的抬杠，使得問(wèn)題的本質(zhì)被掩蓋了，因?yàn)锳I在人的生活中的滲透是一個(gè)逐漸的過(guò)程。百分之百地取代你可能仍然不會(huì)發(fā)生，可是它也不需要百分之百的取代掉你，只要50%的取代掉你的某些工作職能，AI就會(huì)對(duì)就業(yè)市場(chǎng)形成非常大的沖擊。我有一個(gè)紐約的律師朋友，他是很早就開(kāi)始用這個(gè)東西。他本身不是一個(gè)技術(shù)人員，他是一個(gè)標(biāo)準(zhǔn)的文科生，平常的用一個(gè)新軟件都要緊張半天的那種人。但是他開(kāi)始用這個(gè)之后，因?yàn)槁蓭煹墓ぷ魇呛艽蟪潭壬鲜且蕾?lài)于文本的，而文本是GPT的長(zhǎng)項(xiàng)，所以他就開(kāi)始用。之后，我就問(wèn)他說(shuō)，所以你真的開(kāi)始辭退你的員工了嗎？因?yàn)樗约菏且粋€(gè)律所合伙人。他說(shuō)我還沒(méi)有真正開(kāi)始辭退任何人，但是我確實(shí)打算今年暑假不用再招實(shí)習(xí)生了，因?yàn)榻o我省下的活完全可以讓我騰出手來(lái)做一些事，以至于我可以省下招一個(gè)實(shí)習(xí)生的AD account。這就是一個(gè)真實(shí)的影響對(duì)不對(duì)？它沒(méi)有真正取代什么東西，但是它仍然沖擊了一個(gè)真實(shí)的就業(yè)市場(chǎng)上的職位。
我覺(jué)得AI對(duì)我們社會(huì)的影響會(huì)以這種方式出現(xiàn)，它不會(huì)馬上一下子讓你這個(gè)人變得沒(méi)有意義,但是它可以讓三個(gè)人的活，兩個(gè)人現(xiàn)在能干完，多出來(lái)那個(gè)人就沒(méi)有存在的必要了，所以老板就可以把他開(kāi)掉。它并不是百分之百取代的人的方式來(lái)逐漸進(jìn)行的，而且這個(gè)事情是非常真實(shí)的。這也是為什么我覺(jué)得很多人對(duì)沖擊仍然沒(méi)有做好心理上和事實(shí)上的準(zhǔn)備。其實(shí)有點(diǎn)令人憂(yōu)慮的原因就是，如果你今天還用一種這東西，都是媒體的炒作來(lái)對(duì)待這個(gè)問(wèn)題，你就很可能會(huì)在真正的影響你切身生活的沖擊到來(lái)之前，沒(méi)有做好對(duì)自己來(lái)說(shuō)比較有用的幫助。
王磬：我覺(jué)得我們可以順著這里聊一下，聊一些可能更具體的使用的場(chǎng)景和可能會(huì)影響的群體。在你看來(lái)它的技術(shù)進(jìn)展可能影響哪一些人群，哪一些工種？或者哪一類(lèi)生活方式是最容易受到它的影響的？在我們目前已知的這種技術(shù)條件下，不用考慮它未來(lái)幾年這種發(fā)展。
木遙：我來(lái)簡(jiǎn)單解釋一下為什么它能夠幫到你的工作。我今天在網(wǎng)上看到一個(gè)笑話，說(shuō)GPT這個(gè)詞兒在法語(yǔ)中會(huì)非常好笑。我自己法語(yǔ)很爛，我不知道為什么。如果在傳統(tǒng)時(shí)代，我要么去問(wèn)一個(gè)懂法語(yǔ)的人，我要么去搜，但是這個(gè)就很難搜，因?yàn)槌怯腥嗽诰W(wǎng)上貼過(guò)這個(gè)笑話，否則你也搜不出什么東西來(lái)。但現(xiàn)在有GPT，我就打開(kāi)GPT搜為什么。GPT這個(gè)詞在法語(yǔ)中非常好笑，讓它非?？斓馗嬖V我答案。因?yàn)镚PT在法語(yǔ)中的念法是“我在放屁”的意思。我不是說(shuō)笑話很好笑，我的意思是過(guò)程反映了為什么它會(huì)有用，因?yàn)槲覀冊(cè)谏钪写罅康氖挛锉緛?lái)是以這種形式在人和人之間發(fā)生的。你有一個(gè)瑣碎的事兒，這個(gè)事情你需要?jiǎng)e人幫你來(lái)做，或者你需要一個(gè)秘書(shū)，或者你需要什么，但是在沒(méi)有機(jī)器的時(shí)代，我們只能使喚一個(gè)人，或者我們自己花時(shí)間來(lái)做。但是有這個(gè)東西，它就可以幫你做，而且你去問(wèn)它沒(méi)有任何心理壓力，你不需要付出心理成本。你不需要想說(shuō)我要請(qǐng)教一個(gè)人，或者我要占他的時(shí)間，不需要的。
用這種模式來(lái)考慮這個(gè)問(wèn)題，你就會(huì)發(fā)現(xiàn)，其實(shí)我們生活中工作中的很大比例都是這樣的，事情瑣碎、小，但又花時(shí)間?；旧衔覀兯f(shuō)的一個(gè)白領(lǐng)的工作，我不能給一個(gè)精確的數(shù)字，但是我可以有把握可能50%以上都是這種事情。你幫人寫(xiě)一個(gè)東西，或者你幫人回答一個(gè)日常生活中的問(wèn)題，或者工作上的問(wèn)題，或者回答一個(gè)知識(shí)性的問(wèn)題，或者把一個(gè)什么材料總結(jié)一下。大部分人，我們今天所謂坐辦公室的工作，都是這樣的工作。極少數(shù)的工作是有創(chuàng)造性的、有原創(chuàng)性的。老板可能需要決策，大部分員工也沒(méi)什么需要決策的。老板說(shuō)小張你幫我把什么事搞一下？小張其實(shí)完全可以被GPT所取代。所以如果你問(wèn)我哪一種職業(yè)最受沖擊，我只能說(shuō)任何需要在寫(xiě)字樓里面有一個(gè)小張跑來(lái)跑去的工作，都會(huì)被它所影響。因?yàn)樾埶龅氖虑槠鋵?shí)就是這類(lèi)事情。
我曾經(jīng)寫(xiě)過(guò)一篇微博，GPT的本質(zhì)不是一個(gè)對(duì)話集群，GPT的本質(zhì)是一種以對(duì)話為界面的服務(wù)。什么叫以對(duì)話為界面的服務(wù)？當(dāng)你是一個(gè)老板，或者你是一個(gè)所謂的專(zhuān)業(yè)人士（professional），你日常生活中在不斷調(diào)用這樣的服務(wù)。你有一個(gè)法律問(wèn)題，你需要有一個(gè)人來(lái)給你回答法律困惑。你有一個(gè)編程時(shí)候的問(wèn)題，你需要請(qǐng)教一個(gè)人。誒，為什么這里有一個(gè)bug，或者我聽(tīng)你的，你讓我安裝了，但是現(xiàn)在界面上彈出一個(gè)錯(cuò)誤，我不認(rèn)識(shí)這個(gè)錯(cuò)誤，我該怎么辦？這樣的問(wèn)題是我們工作中需要遇到的。在沒(méi)有GPT的時(shí)代，我們需要有一個(gè)人，或者需要一個(gè)能夠至少說(shuō)話的東西來(lái)幫助我們來(lái)往下走。而GPT提供的就是這樣一種服務(wù)。它以對(duì)話為界面，幫助我們獲得我們所需要的信息，而這種服務(wù)在之前是不存在的。之前當(dāng)然也有一些類(lèi)似于智能音箱之類(lèi)的東西是假的，它只能回答特定的有限的問(wèn)題。但今天的GPT是通用的，它可以回答我任何問(wèn)題。所以一切以對(duì)話為服務(wù)形式的工作都會(huì)被改變。而對(duì)話基本上是我們?nèi)粘５陌最I(lǐng)工作的核心。不管是書(shū)面對(duì)話還是口頭對(duì)話。你今天在香港，放眼望去那些凌厲的寫(xiě)字樓里面的工作，你想象他每天在干什么，想象一下為什么他們的工作不能夠被GPT所取代。其實(shí)你能找到的理由是非常少的，因?yàn)樗麄兇蟛糠炙龅氖虑椋煌夂蹙褪前褟腶那里遇到的問(wèn)題，自己消化一下，再問(wèn)b，然后從b那里得到的回答再消化，也再傳遞一個(gè)a。而這個(gè)事情，GPT是完全可以做到的。
王磬：我覺(jué)得在這里有幾個(gè)點(diǎn)，一個(gè)是你剛剛說(shuō)到消化以及轉(zhuǎn)述的過(guò)程，就讓我想起，其實(shí)在我職業(yè)早期，我曾經(jīng)有段時(shí)間是在各機(jī)構(gòu)里面給他們每天寫(xiě)新聞簡(jiǎn)報(bào)（news brief），其實(shí)就是我把頭一天這個(gè)地方所有的重要的媒體關(guān)于某一個(gè)行業(yè)的報(bào)道找出來(lái)，進(jìn)行消化和轉(zhuǎn)述，去重點(diǎn)標(biāo)注（highlight）出一些比較重要的信息，這大概是我十幾年前剛開(kāi)始進(jìn)入職場(chǎng)的時(shí)候做過(guò)的其中的一份工作。如果放在今天的語(yǔ)境下來(lái)講，這個(gè)是一份非常完美的、肯定可以被ChatGPT去取代的一份工作。因?yàn)榻裉霤hatGPT已經(jīng)可以不光是幫我們?nèi)ニ阉餍侣?，也可以幫我們搜索可能更?fù)雜的學(xué)術(shù)型的文獻(xiàn)。但是另一個(gè)方面，我自己也會(huì)感到，當(dāng)我們?nèi)フf(shuō)到消化和轉(zhuǎn)述這個(gè)事兒的時(shí)候，這中間也存在一個(gè)質(zhì)量的問(wèn)題。比如當(dāng)時(shí)我的老板，他有時(shí)候會(huì)跟我抱怨之前的助理，他經(jīng)常會(huì)覺(jué)得他提供的新聞簡(jiǎn)報(bào)質(zhì)量上可能達(dá)不到一個(gè)簡(jiǎn)報(bào)的要求，因?yàn)椴粔蚝?jiǎn)潔，或者有時(shí)候重點(diǎn)標(biāo)注的點(diǎn)不夠精確、切題（to the point）。我覺(jué)得這也回到剛才我們提到的另一個(gè)點(diǎn)，也是我自己覺(jué)得很想去深入了解的一個(gè)問(wèn)題，就是ChatGPT從能做這個(gè)事兒，到能夠以一個(gè)符合這個(gè)人完整的要求去做這個(gè)事兒，中間是不是其實(shí)還是有一定的差距，包括剛才你提到的，比如大家有時(shí)候抱怨ChatGPT，它很擅長(zhǎng)一本正經(jīng)地胡說(shuō)八道，它有時(shí)候會(huì)給你提供一個(gè)字面或者這種形式上看起來(lái)非常正確的文本，但事實(shí)上它的文本不太能夠經(jīng)得起考驗(yàn)。所以你會(huì)怎么樣看待這個(gè)過(guò)程中可能出現(xiàn)的質(zhì)量上的一個(gè)問(wèn)題，以及你覺(jué)得質(zhì)量的問(wèn)題它多大程度上可以解決？是什么時(shí)間框架內(nèi)可以解決的問(wèn)題？
木遙：這個(gè)問(wèn)題是ChatGPT剛出來(lái)這的時(shí)候，很多人抱怨的核心，也是很多人覺(jué)得這可能不過(guò)又是一場(chǎng)炒作的根本原因，就是他可能用了兩下，發(fā)現(xiàn)這不就是說(shuō)車(chē)轱轆話嘛，而且好像也沒(méi)有很深刻，而且很多時(shí)候還在胡扯。但是這里面有兩個(gè)認(rèn)知上的分歧需要被摘出來(lái)討論。一個(gè)是ChatGPT其實(shí)不是一個(gè)產(chǎn)品，它是一個(gè)demo。所以當(dāng)你用消費(fèi)者評(píng)估一個(gè)產(chǎn)品的視角評(píng)價(jià)它的時(shí)候，評(píng)價(jià)可能是不公平的。消費(fèi)者評(píng)估一個(gè)產(chǎn)品，你可能會(huì)說(shuō)我想要一個(gè)幫我掃地的機(jī)器人，這個(gè)機(jī)器人把地掃得不干凈。這就是一個(gè)很糟糕的機(jī)器人，為什么要為它而激動(dòng)？但是這種視角，只當(dāng)你討論的是一個(gè)漸變式的新產(chǎn)品才有意義。當(dāng)我們討論一個(gè)突變式的新產(chǎn)品的時(shí)候，你這種評(píng)價(jià)很可能就會(huì)因小失大。我舉個(gè)例子，在馬車(chē)的時(shí)代，有了第一輛汽車(chē)，在各種性能上都碾壓馬車(chē)了嗎？其實(shí)是不可能的，因?yàn)轳R車(chē)被優(yōu)化了幾千年。而第一輛汽車(chē)，它一定是非常粗糙的，對(duì)不對(duì)？馬車(chē)可能很舒服，抗震性能非常的好，它已經(jīng)能想到的部分都盡善盡美了。而汽車(chē)，它可能會(huì)掉鏈子，它要加油，它可能滴里呱啦的，沒(méi)什么防震，它一開(kāi)始是有很大按他缺陷的。所以，如果你直接比較舒適程度，可能汽車(chē)未必比得上馬車(chē)。至少第一輛汽車(chē)是這樣。但是它仍然是碾壓性的優(yōu)勢(shì)。為什么？因?yàn)樗且粋€(gè)斷層式的革新。所以當(dāng)你評(píng)價(jià)GPT的時(shí)候，你必須分清楚哪些是我剛剛說(shuō)的這種，它只是因?yàn)橐粋€(gè)新的東西沒(méi)有來(lái)得及做得好，哪些是它就不可能做得好。但這牽扯到第二個(gè)問(wèn)題，還是那句話，我們大眾其實(shí)過(guò)去已經(jīng)被這種新技術(shù)的轟炸式的新聞弄得神經(jīng)疲憊了，每個(gè)東西都告訴我能夠改變世界。3D打印改變世界，5G改變世界，比特幣改變世界，對(duì)吧？每一個(gè)東西它都會(huì)告訴你改變世界。關(guān)于元宇宙的新聞言猶在耳，今天已經(jīng)沒(méi)有人提了。你當(dāng)時(shí)也說(shuō)它改變世界，哪改變了，對(duì)吧？所以這種狼來(lái)了的心態(tài)是非常真實(shí)的。我們今天憑什么說(shuō)GPT是不是又改變世界，還只是我們這幫人在認(rèn)知上……我得承認(rèn)，你不可能百分之百的準(zhǔn)確。你有的時(shí)候弄錯(cuò)了，你有的時(shí)候以為它改變世界，其實(shí)什么事也沒(méi)發(fā)生。這種錯(cuò)誤的概率是存在的。但是我仍然個(gè)人覺(jué)得GPT可能比剛才說(shuō)的那些東西都更有可能是真的。我不能說(shuō)百分之百，但更有可能是真的。它的缺陷包括兩個(gè)層面的缺陷。一個(gè)層面是它的表達(dá)是不是，用你的話說(shuō)，to the point，或者是不是足夠精準(zhǔn)，這個(gè)東西是很容易通過(guò)模型不斷地訓(xùn)練改進(jìn)的。另外一個(gè)缺陷，它是不是胡扯，在學(xué)術(shù)上被稱(chēng)作fact grounding。它的表述是不是基于真實(shí)的事實(shí)？這其實(shí)是一個(gè)非常有趣的技術(shù)問(wèn)題，因?yàn)槲覀兘裉熘?GPT也好，GPT4也好，它都是一個(gè)封閉模型。什么是封閉模型？它運(yùn)行的時(shí)候并不實(shí)時(shí)查閱任何背后的數(shù)據(jù)庫(kù)，它只是在復(fù)述在訓(xùn)練的時(shí)候記住的東西。如果在訓(xùn)練的時(shí)候這個(gè)事情還沒(méi)有存在，它就永遠(yuǎn)都不可能知道。但這不是本質(zhì)。缺陷這只是碰巧，因?yàn)閺腛penAI公司的角度來(lái)說(shuō)，它總得推出一個(gè)什么東西，而這個(gè)東西，你要讓它查閱現(xiàn)實(shí)的數(shù)據(jù)庫(kù)，你需要跟很多領(lǐng)域去談，對(duì)吧？你要讓它查閱法律數(shù)據(jù)庫(kù)，你總需要去跟一個(gè)法律數(shù)據(jù)庫(kù)的供應(yīng)商去談一個(gè)什么deal出來(lái)?；蛘吣阋屗鼘?shí)時(shí)檢索網(wǎng)絡(luò)，你總得讓它真正部署到一個(gè)可以實(shí)時(shí)檢索網(wǎng)絡(luò)的服務(wù)器的層面，服務(wù)器本身要處理大量的跟現(xiàn)實(shí)網(wǎng)絡(luò)的交互，這不是很容易的事情。Bink是一個(gè)很好的嘗試，Bink把GPT置入到搜索引擎之中，但是又同時(shí)能夠?qū)崟r(shí)檢索網(wǎng)絡(luò)。但是你可能更需要更專(zhuān)業(yè)的比方，你需要他能夠回答醫(yī)學(xué)問(wèn)題的時(shí)候，不是靠你的記憶來(lái)回答，而是你真正去查一個(gè)真實(shí)存在的醫(yī)療文獻(xiàn)出來(lái)。這是我們作為消費(fèi)者很一個(gè)很自然的需求。而這個(gè)東西實(shí)現(xiàn)起來(lái)是需要時(shí)間的，因?yàn)樗鼱砍兜礁F(xiàn)實(shí)的已經(jīng)存在的知識(shí)信息，網(wǎng)絡(luò)上存在的資源有一個(gè)溝通的過(guò)程，這個(gè)事情不會(huì)一夜之間發(fā)生，但是它也沒(méi)什么技術(shù)上本質(zhì)的障礙存在。所以我?guī)缀蹩梢钥隙ㄔ谖磥?lái)一兩年內(nèi)，你會(huì)看到越來(lái)越多的基于真實(shí)數(shù)據(jù)的、做好fact grounding的GPT，那個(gè)時(shí)候GPT就不只是靠它訓(xùn)練時(shí)候記住的東西來(lái)回答你了，它就變成一個(gè)中間的layer，它負(fù)責(zé)理解你的問(wèn)題，輸出一個(gè)答案。但是它背后的事實(shí)來(lái)自于一個(gè)更真實(shí)的，比方說(shuō)法律文書(shū)的數(shù)據(jù)庫(kù)，或者一個(gè)醫(yī)療資源的數(shù)據(jù)庫(kù)或者等等。那個(gè)時(shí)候它胡扯的幾率就會(huì)大大降低。這件事情并沒(méi)有很困難，我相信會(huì)很快發(fā)生。
王磬：而且其實(shí)你說(shuō)讓我想到它跟人腦的結(jié)構(gòu)也是有點(diǎn)類(lèi)似的。比如我在跟你進(jìn)行對(duì)話的時(shí)候，如果我不是同時(shí)在用互聯(lián)網(wǎng)，我在跟你進(jìn)行對(duì)話的時(shí)候，我所告訴你的所有的東西，其實(shí)我在這個(gè)點(diǎn)之前，我已經(jīng)接受到那些東西，我不可能在跟你對(duì)話的時(shí)候?qū)崟r(shí)去查詢(xún)。比如今天天氣怎么樣，香港的人口是多少，我沒(méi)有辦法實(shí)時(shí)去查詢(xún)這樣的東西。如果我現(xiàn)在跟你講了這個(gè)東西，只是因?yàn)槲抑熬鸵呀?jīng)知道了，所以從那個(gè)程度上來(lái)說(shuō)，ChatGPT如果真的如你所說(shuō)，它能夠在接下來(lái)一兩年內(nèi)，不光實(shí)現(xiàn)理解、回答你的問(wèn)題，這樣一個(gè)需要一定的邏輯能力，需要一定的這種交互能力去完成的動(dòng)作，它同時(shí)還可以在交互的同時(shí)進(jìn)行一個(gè)無(wú)限的連通，相當(dāng)于讓你在跟他對(duì)話的時(shí)候，你可能獲得的信息比你跟一個(gè)這方面的專(zhuān)家獲得的信息更及時(shí)、更準(zhǔn)確。如果真的是這樣的一個(gè)情況，你會(huì)覺(jué)得這其實(shí)是會(huì)讓人感覺(jué)有一點(diǎn)焦慮的時(shí)刻嗎？
木遙：首先，這不如果，這是必然，因?yàn)檫@個(gè)事情已經(jīng)發(fā)生了。今天的Bing就是微軟新的搜索引擎，我們一般叫new Bing，但是讀起來(lái)有點(diǎn)怪。它就是這樣一個(gè)東西。它是實(shí)時(shí)教育，只不過(guò)它因?yàn)榉?wù)上的限制，它沒(méi)有辦法查閱的非常多，因?yàn)閷?duì)服務(wù)器壓力很大。它也在不斷優(yōu)化這件事情。特別是如果你用中文，用new Bing效果并不是特別好，它中文所能搜索到的東西是非常局限的。但是如果你用英文的new bing，今天事實(shí)上是已經(jīng)在回答你的問(wèn)題的時(shí)候?qū)崟r(shí)調(diào)用互聯(lián)網(wǎng)了，已經(jīng)不是在靠它的記憶在回答了。但這只是一個(gè)通用的搜索引擎，以后會(huì)有越來(lái)越多專(zhuān)用搜索引擎出現(xiàn)。我跟它聊的時(shí)候，它去實(shí)時(shí)調(diào)用一個(gè)真實(shí)的專(zhuān)業(yè)數(shù)據(jù)庫(kù)。而這件事情在技術(shù)上沒(méi)有任何難點(diǎn)，它唯一的困難是你得真的去做這件事。得有一堆工程師負(fù)責(zé)把這些該連的接口連起來(lái)，這是需要花時(shí)間的，而且需要對(duì)方答應(yīng)給你提供數(shù)據(jù)的提供商得愿意讓你去訪問(wèn)。但這些問(wèn)題都是可解決，它沒(méi)有技術(shù)上的本質(zhì)障礙。所以歸根結(jié)底，GPT它就是一個(gè)中間的過(guò)渡層，它背后是真實(shí)的、大量的、無(wú)限的網(wǎng)絡(luò)知識(shí)。它前面面對(duì)的是我們這樣的人，它起到的是我一開(kāi)始一個(gè)作為對(duì)話的服務(wù)。它負(fù)責(zé)把結(jié)構(gòu)化的知識(shí)翻譯成我們?nèi)祟?lèi)可以接受的自然語(yǔ)言，又把我們?nèi)祟?lèi)的自然語(yǔ)言問(wèn)的問(wèn)題，翻譯成從結(jié)構(gòu)化的知識(shí)中提取信息的這么一個(gè)action。這件事情會(huì)不會(huì)讓你焦慮？我打一開(kāi)始就說(shuō)了，它當(dāng)然應(yīng)當(dāng)讓你覺(jué)得，咱們不說(shuō)焦慮，至少讓你覺(jué)得做好準(zhǔn)備，否則你就會(huì)在真正的變革發(fā)生的時(shí)候措手不及，因?yàn)檫@件事情不是萬(wàn)一會(huì)發(fā)生怎么辦的問(wèn)題。它是正在發(fā)生，并且很快就會(huì)。因?yàn)檫@個(gè)東西它帶來(lái)的效率提升是碾壓式的，所以它速度會(huì)非?？?，就像是當(dāng)年汽車(chē)取代馬車(chē)一樣。它畢竟是一個(gè)代際之間的差距，有點(diǎn)像我們中國(guó)人剛剛接觸到洋槍洋炮的時(shí)候，差距是你還是紅纓槍?zhuān)瑢?duì)面已經(jīng)是火槍火炮了。那個(gè)差距是你沒(méi)有辦法抵抗的，一觸即潰的。所以這個(gè)過(guò)程本身會(huì)非?？?。而且你必須做好準(zhǔn)備，不能還在想說(shuō)這只是未來(lái)，它萬(wàn)一可能會(huì)發(fā)生，它不是萬(wàn)一，它一定會(huì)發(fā)生。
王磬：我就把這個(gè)問(wèn)題再推得更極端一點(diǎn)，因?yàn)槲矣X(jué)得在科技發(fā)展期，其實(shí)大家一直以來(lái)也都會(huì)聊到科技奇點(diǎn)的問(wèn)題這個(gè)概念。當(dāng)然你可以給出個(gè)更好的解釋。我非常膚淺的解釋是，根據(jù)科技發(fā)展史，有一類(lèi)觀點(diǎn)認(rèn)為，在某一個(gè)點(diǎn)，人類(lèi)可能會(huì)接近一個(gè)使得現(xiàn)有的文明完全被科技發(fā)展所顛覆的這樣的一個(gè)事件點(diǎn)。這個(gè)事件點(diǎn)某種程度上它具有一定的科幻的色彩，可能在一些這種科幻電影中也曾經(jīng)不斷的被描述。但是在現(xiàn)實(shí)生活中，到目前為止，它仍然是作為一種假想而存在。在你看來(lái)，你覺(jué)得這會(huì)不會(huì)是一個(gè)人類(lèi)發(fā)展史上的一個(gè)奇點(diǎn)時(shí)刻？
木遙：首先，如您所說(shuō)，奇點(diǎn)的東西不是一個(gè)有共同接受定義的東西，所以你很難精確地說(shuō)什么是我。今天早上，我們醒來(lái)，發(fā)現(xiàn)世界怎么樣了。這是一個(gè)文學(xué)性的比喻。你并不會(huì)真的找到那么一天或者一個(gè)時(shí)刻。但是你要說(shuō)這次的，咱們不說(shuō)它是不是工業(yè)革命，它至少是一個(gè)不管什么意義上的革命。它有沒(méi)有特殊性？有的。我們?nèi)祟?lèi)在過(guò)往的工業(yè)革命史上對(duì)機(jī)器有一個(gè)非常本質(zhì)的優(yōu)勢(shì)。我們雖然在體能上遠(yuǎn)遠(yuǎn)輸給了機(jī)器，但我們的腦力從來(lái)沒(méi)有輸給過(guò)機(jī)器。而我們一般認(rèn)為人類(lèi)的能力不外乎就是體力加腦力，或者我們的肉體加上我們的靈魂。如果你在腦力上也被，至少在很大一部分層面上被機(jī)器取代了，這就不只是你被機(jī)器取代了一部分的問(wèn)題，是你必須要嚴(yán)肅地問(wèn)一問(wèn)自己，我還剩下什么是機(jī)器做不到的？這不是一個(gè)很容易的問(wèn)題。我們必須理解，過(guò)去兩三百年的現(xiàn)代社會(huì)，是被這樣一種基本認(rèn)知所塑造的。人類(lèi)的價(jià)值體現(xiàn)在他的腦力上的價(jià)值。一個(gè)小孩身體非常好，但是腦子很笨。另外一個(gè)小孩身體素質(zhì)一般，但腦子很好。我們一般認(rèn)為后者更有出息，但這個(gè)認(rèn)為是哪來(lái)的？這并不是自古以來(lái)就有，這就是工業(yè)革命的產(chǎn)物。工業(yè)革命讓我們覺(jué)得腦力比體力在社會(huì)價(jià)值的鄙視鏈上更高，而它更高的唯一原因是它是我們?nèi)祟?lèi)的優(yōu)勢(shì)的體現(xiàn)。我們?cè)侔言掝}再推得極端一點(diǎn)，我們想想，有三個(gè)小孩，一個(gè)小孩身體倍兒棒，一個(gè)小孩腦袋非常好，會(huì)做奧數(shù)題。一個(gè)小孩長(zhǎng)得非常好看，他身體也未必有多么大的體力優(yōu)勢(shì)，但是他就是長(zhǎng)得非常好看。我們今天的家長(zhǎng)會(huì)覺(jué)得哪個(gè)小孩最有出息？我們會(huì)認(rèn)為腦子好的小孩最有出息，對(duì)不對(duì)？學(xué)好數(shù)理化，走遍天下都不怕。第一個(gè)小孩是最沒(méi)出息的，他只能去送外賣(mài)。第三個(gè)小孩他可能也能掙很多錢(qián)，他長(zhǎng)得很好看，但是我們今天的價(jià)值體系認(rèn)為你靠臉吃飯，不是說(shuō)不可以，但他好像有點(diǎn)不是正道，或者不是我們家長(zhǎng)會(huì)希望小孩子走的道路，對(duì)不對(duì)？你今天問(wèn)一個(gè)家長(zhǎng)，希望小孩他是做工程師還是去當(dāng)網(wǎng)紅？他可能會(huì)覺(jué)得網(wǎng)紅也掙很多錢(qián)，但是他仍然希望，如果你能做工程師，還是做工程師好。但這個(gè)價(jià)值排序，它不是天上掉下來(lái)的，它也不是自古以來(lái)就有的，它是工業(yè)革命的產(chǎn)物。工業(yè)革命讓我們覺(jué)得腦力是最高級(jí)的。臉也挺重要的。你要只有肌肉，那就好像等而下之。但假如你的腦力也被機(jī)器碾壓了，這個(gè)價(jià)值體系還能不能維持？顯然就不能了。你沒(méi)有任何理由認(rèn)為聰明是一種優(yōu)勢(shì)。因?yàn)槟惴凑膊蝗鏏I聰明。當(dāng)然，今天還不是這樣。今天我們?nèi)匀槐華I聰明，但如果AI進(jìn)一步變得更強(qiáng)大的話，你就沒(méi)有AI聰明了。那時(shí)候，我們?nèi)祟?lèi)的價(jià)值體現(xiàn)在哪里？如果你還是長(zhǎng)得很好看，你是當(dāng)網(wǎng)紅，如果你長(zhǎng)得不好看的，你存在的意義是什么？這是一個(gè)非常本質(zhì)的存在主義的問(wèn)題。而這個(gè)問(wèn)題我沒(méi)有好的答案。因?yàn)槲覀內(nèi)祟?lèi)沒(méi)有經(jīng)歷過(guò)這種時(shí)刻，我們?nèi)祟?lèi)沒(méi)有經(jīng)歷過(guò)在方方面面所有的維度上都比不過(guò)機(jī)器的時(shí)刻。所以把它叫不叫奇點(diǎn)，我不知道，但它確實(shí)是一個(gè)嶄新的、沒(méi)有存在過(guò)的一個(gè)狀況。
王磬：另一個(gè)問(wèn)題也是剛才你提到歷史上的這種情況。所以，如果比如要幫助我們理解今天的情況到底有多特殊，你會(huì)覺(jué)得在人類(lèi)歷史上曾經(jīng)也是出現(xiàn)過(guò)的、這些對(duì)世界格局，對(duì)人類(lèi)的發(fā)展進(jìn)程產(chǎn)生了深遠(yuǎn)影響的技術(shù)革命，你會(huì)覺(jué)得有哪一次可能會(huì)是跟這一次可以相提并論的嗎？
木遙：這兩天會(huì)在網(wǎng)上看到很多比喻。很多人說(shuō)周四的微軟發(fā)布會(huì)是微軟的iPhone時(shí)刻，相當(dāng)于蘋(píng)果在2007年推出第一代iPhone。也有人認(rèn)為這次的革命的幅度會(huì)超過(guò)智能手機(jī)的革命。我們這代人其實(shí)最近的兩個(gè)革命，一個(gè)是互聯(lián)網(wǎng)革命，大概誕生在我們這代人剛出生的時(shí)候。一次是智能互聯(lián)網(wǎng)或者是移動(dòng)互聯(lián)網(wǎng)，一般被認(rèn)為就是喬布斯那次著名的發(fā)布會(huì)，2007年的時(shí)候。這是我們能夠拿來(lái)做參照系的東西。當(dāng)然我剛剛說(shuō)了，這兩個(gè)做參照系都不是特別合適。
首先，我個(gè)人覺(jué)得這次人工智能革命的激烈程度會(huì)至少大于移動(dòng)互聯(lián)網(wǎng)，是不是大于互聯(lián)網(wǎng)本身還不好說(shuō)，我們還要再看。但是另外一方面，我剛說(shuō)了，這兩次革命再怎么說(shuō)，已經(jīng)發(fā)生這兩次互聯(lián)網(wǎng)加上智能手機(jī)，都沒(méi)有觸及到我們?nèi)说拇嬖谝饬x的問(wèn)題，對(duì)不對(duì)？你并不會(huì)覺(jué)得有了互聯(lián)網(wǎng)，你人就沒(méi)有存在的意義了。但是當(dāng)這世界上大部分人，他會(huì)問(wèn)自己，我在這個(gè)世界上能夠干什么？如果這個(gè)問(wèn)題沒(méi)有答案，就算我們社會(huì)結(jié)構(gòu)因此適應(yīng)了我們，給那些找不到工作的人發(fā)一個(gè)今天在西方討論很多的UBI，就是基本生活補(bǔ)助，或者給你一個(gè)基本的錢(qián)，讓你不至于死掉。即使這樣，這是不是解決了問(wèn)題？其實(shí)沒(méi)有，因?yàn)槲覀內(nèi)水吘共皇侵荒芸炕斐缘人谰湍苓^(guò)一輩子的生物，我們需要有一個(gè)存在感，我們需要有一個(gè)存在意義的自我追問(wèn)。哪怕是可能不知識(shí)分子的人，哪怕是一個(gè)普通的日常的老百姓，他也需要有某種意義感。我們都聽(tīng)過(guò)那樣的故事，就是一個(gè)人退休之后，或者一個(gè)媽媽的發(fā)現(xiàn)她的兒女長(zhǎng)大成人，不再需要她的建議之后的那種失落感。為什么你會(huì)覺(jué)得失落？因?yàn)槟阌X(jué)得我希望成為一個(gè)有用的人，對(duì)不對(duì)？有用并不一定體現(xiàn)在我掙工資，但我希望別人認(rèn)可我的存在，我希望我以某種方式在跟別人交互的時(shí)候發(fā)揮出某種價(jià)值。但如果我不但身體的能力比不過(guò)機(jī)器，連作為一個(gè)可以對(duì)話的人所能提供的價(jià)值都比不過(guò)機(jī)器的時(shí)候，它對(duì)人類(lèi)的心理上的沖擊是無(wú)可比擬的。你很難跟互聯(lián)網(wǎng)或者跟汽車(chē)或者跟飛機(jī)的比較來(lái)做衡量，因?yàn)槟切〇|西并不觸及這個(gè)層面，而這次是真正觸及了這個(gè)層面。你作為一個(gè)普通人，你既不特別漂亮，又不特別聰明，你不能夠成為那些去開(kāi)發(fā)AI的工程師，你只能用它。你工作的意義是？你生活的意義是什么？這是一個(gè)真實(shí)存在的問(wèn)題，我沒(méi)有答案，但是它確實(shí)是我們?nèi)祟?lèi)第一次碰觸到這樣的問(wèn)題。
王磬：我想反向來(lái)問(wèn)一個(gè)問(wèn)題，我們剛才其實(shí)談了很多GPT可能帶來(lái)的技術(shù)變革，它能做什么，現(xiàn)在能做什么，未來(lái)可能能做的更多。從你的角度來(lái)看，你覺(jué)得如果我們要去定義ChatGPT，它不能做什么，你會(huì)怎么定義？
木遙：我們都知道，在過(guò)去的二三十年里面，我們社會(huì)的家庭觀念，或者我們社會(huì)的關(guān)于家庭勞動(dòng)的價(jià)值發(fā)生了一個(gè)很大的轉(zhuǎn)變。在上一輩人的觀念中，比方假定你是個(gè)家庭婦女，你的工作是不被認(rèn)可的，對(duì)不對(duì)？老公出去掙錢(qián)，他覺(jué)得他在掙錢(qián)養(yǎng)家。老婆在家里工作了一整天，甚至不是一周工作5天，是工作了7天，但她在家里面收拾東西，洗碗做飯，照顧好小孩。這個(gè)工作不被認(rèn)為是掙錢(qián)，不被認(rèn)為是平等的勞動(dòng)。所以老公可以回來(lái)往床上一躺。我在外面掙錢(qián)掙了一整天，好累。你給我什么什么干什么？過(guò)去20年，由于女性主義思潮的興起，由于社會(huì)更全面地進(jìn)入現(xiàn)代化，我們開(kāi)始意識(shí)到，這個(gè)觀點(diǎn)發(fā)生變化了，我們開(kāi)始意識(shí)到家庭勞動(dòng)也是平等的勞動(dòng)，這部分勞動(dòng)很大程度上是不可取代的。但它再怎么說(shuō)平等，它也只是我們把本來(lái)不被承認(rèn)的勞動(dòng)價(jià)值提到了一定層面上。AI的出現(xiàn)會(huì)把變化更劇烈的，我甚至都不能說(shuō)推動(dòng)，而是把它會(huì)打亂。為什么？因?yàn)槟銜?huì)發(fā)現(xiàn)，它會(huì)把這兩件事情的重要性調(diào)過(guò)一個(gè)個(gè)來(lái)。AI仍然不能幫助你洗碗，它仍然不能幫你照顧小孩，伺候老人、收拾家。某些部分可以，比方掃地機(jī)器人可以幫你掃地，但是很多事情今天仍然大家做不了。最簡(jiǎn)單的，你想把衣服都疊起來(lái)，這個(gè)事情你雇一個(gè)機(jī)器人來(lái)干，仍然不是馬上就會(huì)發(fā)生的事情。傳統(tǒng)上認(rèn)為是成功人士的，每天出入于寫(xiě)字樓的西裝革履的老工作，干的事情反而會(huì)變得毫無(wú)意義。他的工作既掙不來(lái)錢(qián)，也掙不來(lái)意義感，因?yàn)樗龅氖虑?，AI都能做了。我們的不管是家庭觀念也好，勞動(dòng)價(jià)值也好，會(huì)發(fā)生什么樣的變化，我自己不知道，但是它是一定會(huì)發(fā)生的。因?yàn)槟銊倖?wèn)我什么樣的工作仍然不能夠被取代。這些東西仍然不能被取代的。那些照顧人的部分，那些在情緒上，在肉體上，在一切人和人交流的意義上所付出的勞動(dòng)，都仍然是不能被取代的。當(dāng)然，今天ChatGPT已經(jīng)可以跟你聊天了，所以你可以跟它傾訴，甚至可以跟它談戀愛(ài)，在某種意義上來(lái)說(shuō)，但是它仍然不能取代你真實(shí)人和人之間的關(guān)心和照護(hù)（care）對(duì)不對(duì)？但它可以取代你在白天上班的時(shí)候看起來(lái)光鮮的白領(lǐng)。所以，它會(huì)非常非常深刻的影響我們整個(gè)社會(huì)的對(duì)價(jià)值的排序。我們本來(lái)被看作比較低級(jí)的所謂的家庭勞動(dòng)，或者是那些不掙錢(qián)的勞動(dòng)，會(huì)變成人類(lèi)真正的安身立命的東西。而那些傳統(tǒng)的被認(rèn)為是高級(jí)的professional的掙錢(qián)養(yǎng)家的勞動(dòng)，我也不知道像什么一樣，但是它會(huì)逐漸消散掉。
王磬：你提到這個(gè)，我覺(jué)得挺有意思的，比如像照護(hù)或者情緒價(jià)值。我記得前段好像是ChatGPT剛出來(lái)那陣子，當(dāng)時(shí)有一個(gè)主流媒體的記者去跟ChatGPT進(jìn)行了一場(chǎng)聊天，他后來(lái)把整個(gè)的轉(zhuǎn)寫(xiě)發(fā)在了網(wǎng)站上，他說(shuō)他聊完了之后，其實(shí)當(dāng)時(shí)有點(diǎn)恐懼，因?yàn)?ChatGPT跟他聊到他的感情，并且勸他離開(kāi)他的妻子。我不知道那個(gè)東西它在發(fā)出來(lái)的時(shí)候，以那樣的一種highlight發(fā)出來(lái)，這背后有多大的一個(gè)真實(shí)性，或者是不是中間有一些過(guò)度闡釋的部分。但我覺(jué)得它某種程度上其實(shí)是在于ChatGPT它可能提供的想象確實(shí)我們之前從未想過(guò)的。我記得曾經(jīng)有過(guò)一部電影，叫做Her，講的就是一個(gè)人跟人工智能在談戀愛(ài)的故事。人工智能跟他交互的方式是以一個(gè)女性的聲音，當(dāng)然那個(gè)聲音非常的好聽(tīng)，是斯佳麗約翰遜配音的。在故事當(dāng)中，這個(gè)男主角確實(shí)是不可自拔地跟AI在進(jìn)行一場(chǎng)戀愛(ài)。所以某種程度上，你要說(shuō)他是可以部分的去取代對(duì)人的這種情感價(jià)值、陪伴價(jià)值，甚至可能有一天也能夠?qū)崿F(xiàn)照護(hù)的一些功能。
如果按照剛才我們講的邏輯，它現(xiàn)在既然已經(jīng)能夠比如從ChatGPT，包括在office里面的這種應(yīng)用，它是可以指導(dǎo)你去進(jìn)行一些行動(dòng)的。如果加上之后這種物聯(lián)網(wǎng)的一些發(fā)展，像比如疊衣服，現(xiàn)在可能會(huì)是一個(gè)比較相對(duì)來(lái)說(shuō)復(fù)雜的動(dòng)作，但是聽(tīng)上去其實(shí)是一個(gè)相對(duì)來(lái)說(shuō)技術(shù)上更容易解決的一個(gè)問(wèn)題。你不需要把動(dòng)作拆分成很多的步驟，但實(shí)現(xiàn)它可能也許只是一個(gè)時(shí)間的問(wèn)題。比如再早一點(diǎn)，像洗碗機(jī)這么復(fù)雜的功能也得到了一個(gè)實(shí)現(xiàn)。所以我想講的就是，聽(tīng)你聊完了這些之后，我自己現(xiàn)在對(duì)于ChatGPT的感受確實(shí)是還挺復(fù)雜的。一方面知道它會(huì)對(duì)你的這種工作、現(xiàn)在這種生存狀況帶來(lái)很大的影響，這種影響可能都不是一個(gè)未來(lái)，是他很有可能就已經(jīng)是一個(gè)現(xiàn)在進(jìn)行時(shí)。但另一個(gè)方面，它其實(shí)也把現(xiàn)在的結(jié)構(gòu)當(dāng)中，可能很多重復(fù)的部分，或者很多不盡如人意的一些資源，讓他進(jìn)行一輪更好的整合，也許會(huì)在某些程度上把人類(lèi)從大衛(wèi)格雷博所說(shuō)的那種毫無(wú)意義的工作（Bullshit Job）當(dāng)中解放出來(lái)。但是我想知道，從你自己的角度來(lái)看，如果去描述你在面對(duì)ChatGPT的這種巨大的技術(shù)進(jìn)步，你的這種情緒上的回應(yīng)，或者情緒上的一個(gè)波動(dòng)，你會(huì)怎么樣去描述它？
木遙：先回答剛才紐約時(shí)報(bào)的問(wèn)題，就是他跟ChatGPT聊了一晚上，談了一個(gè)非?；闹嚨眯Φ膽賽?ài)。我們會(huì)不會(huì)有一天真的覺(jué)得AI可以跟我們談戀愛(ài)了，或者滿(mǎn)足我們的情緒價(jià)值需求了？我不知道，可能會(huì)，可能不會(huì)，可能我們這代人還不會(huì)，因?yàn)槲覀冞@代人的思維形式已經(jīng)定型。但是今天才出生的小孩，他會(huì)不會(huì)？我一點(diǎn)概念都沒(méi)有。我有很多朋友告訴我說(shuō)，他們家的小朋友其實(shí)在家里跟智能機(jī)器人聊天是非常常見(jiàn)的事情，我們很難想象，因?yàn)槟阌X(jué)得你在家里跟一個(gè)音箱聊天，是不是有點(diǎn)怪異（creepy）？但是如果你出生的時(shí)候家里就有一個(gè)智能音箱，他可能不覺(jué)得這任何特殊之處。你就聊了。
王磬：我補(bǔ)充一個(gè)例子，我最近在學(xué)校里面教課，我的學(xué)生就有跟我說(shuō)，他們的同齡人里面在跟AI談戀愛(ài)已經(jīng)不是一個(gè)非常少見(jiàn)的現(xiàn)象。
木遙：所以我們會(huì)不會(huì)真的跟它談戀愛(ài)，我不知道。如果一個(gè)宅男，他本來(lái)也沒(méi)有什么真實(shí)跟人談戀愛(ài)的能力，他確實(shí)覺(jué)得AI可能是一個(gè)更好的選擇，這也是有可能的。它會(huì)不會(huì)能夠幫我們疊衣服？你剛用了洗碗機(jī)的例子，其實(shí)洗碗不是一個(gè)好例子，因?yàn)橄赐肽莻€(gè)東西是碗，碗大不了就打碎了，也就是個(gè)碗。我這么說(shuō)好了，我舉一個(gè)很簡(jiǎn)單的現(xiàn)實(shí)生活中的例子。你要給小孩換尿布，這個(gè)事情什么時(shí)候能夠讓機(jī)器來(lái)干？我認(rèn)為不會(huì)很近，因?yàn)榛钌囊粋€(gè)小孩對(duì)安全性的要求不是像洗碗機(jī)這樣的。它雖然是個(gè)技術(shù)問(wèn)題，但它不是一個(gè)馬上就能解決的問(wèn)題。我覺(jué)得它反而比很多我們認(rèn)為本來(lái)遙遙無(wú)期的事情——比方說(shuō)讓AI寫(xiě)一個(gè)長(zhǎng)篇小說(shuō)——更難。當(dāng)然，這是關(guān)于未來(lái)的判斷，很難百分之百的確定。
但是，歸根結(jié)底的本質(zhì)問(wèn)題是，我們?cè)谇楦猩系男枨笫鞘裁?？我們這代人可能已經(jīng)逐漸步入中年，我們可能思維模式已經(jīng)定型了。下一代人是不是這么想我不知道。但是我們?nèi)说那楦行枨笫遣皇侵皇怯腥伺隳懔奶炀蛪蛄?？還是你真的需要一個(gè)活生生的人？這個(gè)是一個(gè)哲學(xué)問(wèn)題，我沒(méi)有好答案。這應(yīng)該是一個(gè)用你一開(kāi)始的說(shuō)法，這其實(shí)應(yīng)該是一個(gè)文科生的問(wèn)題，對(duì)不對(duì)？我覺(jué)得它是一個(gè)很重要的問(wèn)題，但是我沒(méi)有很好的答案。但我覺(jué)得有兩件事情值得一提。一件事情是，這個(gè)話題其實(shí)也挺危險(xiǎn)的，因?yàn)槟阒?，在今天的中文互?lián)網(wǎng)上，你要討論任何關(guān)于性別的議題都很危險(xiǎn)。但是AI會(huì)在很大程度上會(huì)提升我們傳統(tǒng)上認(rèn)為女性更擅長(zhǎng)的很多優(yōu)勢(shì)的重要性，因?yàn)槟切〇|西相對(duì)而言不太容易被AI迅速取代。這句話當(dāng)然很容易找到各種各樣的漏洞，但是我來(lái)解釋一下什么意思。
我們傳統(tǒng)上認(rèn)為，我們今天的職場(chǎng)上，你說(shuō)它是偏見(jiàn)也好，說(shuō)它是刻板印象也好。但今天我們確實(shí)更普遍地把跟理工科的或者跟定量思維有關(guān)的任務(wù)派給男生，不管男生是不是實(shí)際上更好。你要問(wèn)我，我并不認(rèn)為男生更好，但是現(xiàn)實(shí)社會(huì)結(jié)構(gòu)是這樣的。我們認(rèn)為男生來(lái)做這樣的事情是讓社會(huì)上更約定俗成的一種辦法，而把那些跟溝通、跟協(xié)調(diào)有關(guān)的事情派給女生。我需要強(qiáng)調(diào)，不是這件事情有什么必然性，但今天的社會(huì)事實(shí)上是這么運(yùn)作的。這兩類(lèi)工作，哪一類(lèi)更容易被AI去代替？顯然是前者。AI今天會(huì)讓你處理一個(gè)Excel報(bào)表的工作變得完全不重要，因?yàn)樗鯡xcel比你做得好多了。但AI能不能更好地協(xié)調(diào)一個(gè)團(tuán)隊(duì)？未必。因?yàn)槠渌麍F(tuán)隊(duì)。我們?nèi)匀皇侨说纳铩１灸苄枰心撤N人和人之間的聯(lián)系（bond），人和人之間的非常微妙，非常難以言表、但真實(shí)的人與人之間的互動(dòng)（human interaction）所帶來(lái)的化學(xué)反應(yīng)（chemistry）。這種能力，AI暫時(shí)是做不到的，或者我們想不到它用什么形式做到。我們?nèi)祟?lèi)可以服膺一個(gè)真實(shí)的人的協(xié)調(diào)，但是我們?nèi)祟?lèi)會(huì)愿意服膺一個(gè)AI的協(xié)調(diào)，或者它的領(lǐng)導(dǎo)和指示嗎？這其實(shí)我不太確定下一代人會(huì)不會(huì)，他們可能會(huì)覺(jué)得更自然，但是我不知道，只是我們這代人，可能需要一點(diǎn)心理上的轉(zhuǎn)變。所以在這個(gè)意義上來(lái)說(shuō)，這是我剛回答你的問(wèn)題的第一個(gè)層面。我們?nèi)祟?lèi)仍然是有一些工作暫時(shí)不會(huì)被馬上取代的，這種牽扯到人和人交流的。
王磬：我想問(wèn)你，從你個(gè)人來(lái)說(shuō)，你覺(jué)得你會(huì)跟AI談戀愛(ài)嗎？
木遙：我不會(huì)，但是我已經(jīng)是成年人了，我的思維方式已經(jīng)定型了。下一代人會(huì)不會(huì)我不知道。
王磬：你不會(huì)跟AI談戀愛(ài)的這個(gè)點(diǎn)，你覺(jué)得AI它不能夠給你提供的是什么？
木遙：不能給我提供的是一個(gè)我在活人那里獲得的認(rèn)可。這里面牽扯到一個(gè)本質(zhì)問(wèn)題，就是為什么活人的認(rèn)可那么重要？我不知道，但是我小時(shí)候是這么被培養(yǎng)長(zhǎng)大的。人總有他的時(shí)代局限性。我和你是一代人，我們這代人就是這么覺(jué)得的，覺(jué)得活人的認(rèn)可比一個(gè)算法的認(rèn)可重要。但是我們小時(shí)候也沒(méi)有什么算法的認(rèn)可這回事，對(duì)吧？所以你打一開(kāi)始你追逐的就是活人的認(rèn)可。如果小時(shí)候就告訴我算法的認(rèn)可也挺重要的。那我今天是不是另外一種想法我不知道，但我們畢竟已經(jīng)長(zhǎng)大了。
第二點(diǎn)是我們所描述的是一個(gè)動(dòng)態(tài)的過(guò)程，所以它并不會(huì)讓你在一夜之間看到，它必須跟我們別的社會(huì)議程一道發(fā)生作用。我仍然想說(shuō)的就是，我們剛才說(shuō)的很多社會(huì)結(jié)構(gòu)的變化，其實(shí)在沒(méi)有AI時(shí)候也在發(fā)生。我們今天的領(lǐng)導(dǎo)層上越來(lái)越多見(jiàn)到女性，我們強(qiáng)調(diào)多元化（diversity）等等。這些東西長(zhǎng)期以來(lái)只是被認(rèn)為一個(gè)純粹社會(huì)議題好聽(tīng)點(diǎn)叫社會(huì)進(jìn)步，說(shuō)難聽(tīng)點(diǎn)叫白左的議程（agenda）。但不管怎么說(shuō)，它是真實(shí)在發(fā)生的東西，但AI的介入會(huì)跟它同步發(fā)生，使得這個(gè)過(guò)程變得更加有趣，也難以預(yù)料。因?yàn)橛泻芏辔覀儌鹘y(tǒng)上被認(rèn)為重要的特質(zhì)會(huì)變得不再重要，所以整個(gè)權(quán)力結(jié)構(gòu)會(huì)因?yàn)锳I的參與進(jìn)來(lái)而發(fā)生重要的調(diào)整。而這部分我是很難用一個(gè)簡(jiǎn)單的非黑即白的方式來(lái)把它總結(jié)出來(lái)的。我是在回答你一開(kāi)始的問(wèn)題。我們認(rèn)為哪些事情能夠不被取代？我不知道。因?yàn)樾碌臋?quán)力結(jié)構(gòu)中可能有一些新的角色出現(xiàn)，而這些角色在舊的世界里根本就不存在，所以我根本無(wú)法預(yù)料到。比方有些新的決策。也許AI溝通師或者什么之類(lèi)的，根本以前不存在的角色，而這些角色可能會(huì)變成某些人的專(zhuān)長(zhǎng)，我不知道。這是我要想說(shuō)的第二點(diǎn)。
王磬：剛才說(shuō)到我們從小怎么樣被教育的問(wèn)題。確實(shí)，作為人來(lái)說(shuō)，你是有成長(zhǎng)期的，你過(guò)了成長(zhǎng)期之后，其實(shí)你的這種價(jià)值觀、世界觀，你怎么樣去認(rèn)識(shí)你周?chē)氖澜?，這一套結(jié)構(gòu)已經(jīng)被建立起來(lái)的時(shí)候，其實(shí)我們就已經(jīng)變成了一個(gè)所謂的成熟的人，一個(gè)成年人。但是我不知道對(duì)于AI來(lái)說(shuō)會(huì)不會(huì)其實(shí)會(huì)更是一個(gè)線性的過(guò)程，是一個(gè)扁平的過(guò)程。沒(méi)有所謂的比如青春期，也沒(méi)有人生，不會(huì)存在不同的階段，他可能也不會(huì)死亡。
木遙：它沒(méi)有人生，但它會(huì)有換代。我們?nèi)嗽谡w上來(lái)說(shuō)，雖然我們每個(gè)人有人生一說(shuō)，但我們的人性在整體上來(lái)說(shuō)，上下限是比較固定的。而AI的特點(diǎn)是它每一代跟前一代都不一樣。所以你不是面對(duì)一個(gè)AI，你是面對(duì)好幾種不同的AI，每?jī)扇昃蜁?huì)面對(duì)一個(gè)全新的AI，而那個(gè)AI又要讓重新適應(yīng)一遍，對(duì)吧？所以其實(shí)AI是一個(gè)更大的集合。AI的多樣性（diversity）其實(shí)比我們?nèi)说亩鄻有砸?，只不過(guò)我們今天只有一個(gè)玩家（player），就是ChatGPT。但很容易想象，10年后、20年后，這個(gè)世界上是有很多種完全不同的AI同時(shí)存在的，所以它每一個(gè)個(gè)體是固定的，但它們之間內(nèi)部的方差會(huì)遠(yuǎn)遠(yuǎn)大于我們?nèi)祟?lèi)之間的方差。
你剛剛說(shuō)人類(lèi)的適應(yīng)性的問(wèn)題，我想一個(gè)很有意思的問(wèn)題。我相信很多人也很關(guān)注的問(wèn)題就是未來(lái)的教育哪些東西還重要，哪些東西變得不重要了。我們這代人的教育重要不重要，是我剛剛所說(shuō)的那種我們現(xiàn)有的社會(huì)結(jié)構(gòu)決定的。我們認(rèn)為數(shù)理化最重要，其次是文科。我們都心知肚明。在我們念書(shū)的時(shí)候，理科是比文科被大家認(rèn)為是更好的專(zhuān)業(yè)。我知道今天網(wǎng)絡(luò)上會(huì)對(duì)這種問(wèn)題有很敏感的反應(yīng)，但是我們不是說(shuō)這件事情應(yīng)該如此。但是，我想說(shuō)的是，我剛說(shuō)的是工業(yè)革命的語(yǔ)序。工業(yè)革命讓我們覺(jué)得文史哲相對(duì)沒(méi)有數(shù)理化那么重要，或者是跟現(xiàn)實(shí)生活直接發(fā)生聯(lián)系，或者有影響（impact）。但是在AI介入之后，這個(gè)結(jié)構(gòu)會(huì)被打破。所以會(huì)不會(huì)走到下一代人，他們就會(huì)覺(jué)得“學(xué)好數(shù)理化，走遍天下都不怕”這句話沒(méi)有任何道理？我們今天是很難想象的，但是下一代人可能會(huì)覺(jué)得當(dāng)然應(yīng)當(dāng)如此。你學(xué)好數(shù)理化干什么呢？而且這種變化也不是沒(méi)有發(fā)生過(guò)。你想象一下清朝末年的最后一批翰林，他們面對(duì)的是同樣的情況，他們讀了一輩子四書(shū)五經(jīng)，靠著這個(gè)安身立命，靠著這個(gè)當(dāng)上大官。但他們下一代是完全不學(xué)這個(gè)了。
我小的時(shí)候曾經(jīng)有一個(gè)困惑，就是1840年英國(guó)人打過(guò)來(lái)了，那個(gè)時(shí)候難道你就沒(méi)有意識(shí)到四書(shū)五經(jīng)已經(jīng)沒(méi)法面對(duì)這個(gè)現(xiàn)實(shí)世界了嗎？為什么中國(guó)人要到60年后才取消科舉？你難道要花60年才能意識(shí)到科舉已經(jīng)完全沒(méi)有實(shí)際意義了嗎？后來(lái)我長(zhǎng)大了，我就意識(shí)到這件事情的必然性了。為什么要60年？因?yàn)?0年差不多就是兩代人。一個(gè)小孩是沒(méi)有權(quán)利去取消科舉制度的，只有那些已經(jīng)功成名就、位高權(quán)重的大人們才有權(quán)利取消，而他們自己是科舉上來(lái)的。你讓1840年的那些宰相翰林大學(xué)士們?nèi)∠婆e是不可能的，因?yàn)樗麄冏约阂惠呑又唤?jīng)歷過(guò)科舉制度，他們的兒子那一輩30年后也不會(huì)取消科舉，因?yàn)樗麄冸m然在1840年的時(shí)候還不是掌權(quán)的人，但是也已經(jīng)30歲了，世界觀也已經(jīng)定型了。因?yàn)樗麄兊膶O子輩，1840年剛剛出生的人走上權(quán)力中樞之后，那要到60年后才取消，科學(xué)的真正的動(dòng)力才會(huì)大于阻力。物理學(xué)家普朗克說(shuō)過(guò)一句很有名的話，“物理學(xué)的每一步前進(jìn)，都是由偉大的物理學(xué)家的葬禮構(gòu)成的”。沖擊再怎么劇烈，還是要兩代人才能完成觀念上的轉(zhuǎn)變。
今天很可能你仍然會(huì)發(fā)現(xiàn)，人的固有的慣性、生物上的慣性仍然會(huì)起作用，我們?nèi)匀粫?huì)試圖捍衛(wèi)我們這代人或者我們下一代人的世界觀，直到我們都死掉了，我們下一代人也垂垂老矣，再下一代人才會(huì)徹底迎接AI的新的時(shí)代。到那個(gè)時(shí)候，他們才會(huì)真正覺(jué)得，為什么人要花那么多時(shí)間去學(xué)習(xí)所謂的理工科知識(shí)，這些知識(shí)難道不應(yīng)該讓AI來(lái)做嗎？那一天的教育是什么樣子，我不知道。
今天還有很多人會(huì)說(shuō)，你應(yīng)該去學(xué)習(xí)理工科的，甚至還有很多人讓你去學(xué)編程。我那天看到一個(gè)非常好玩的新聞，有一個(gè)非常著名的在線教育機(jī)構(gòu)，叫做Khan Academy，可汗學(xué)院，是一個(gè)非常著名的做在線教育的機(jī)構(gòu)。他們很快地跟GPT接觸，用GPT來(lái)改善他們的教育。一方面你會(huì)覺(jué)得不錯(cuò)，動(dòng)作好快。另外一面，你又會(huì)納悶說(shuō)我到底為什么還要再學(xué)你這些課程？這個(gè)感覺(jué)就好像是你一個(gè)馬車(chē)夫，明明都看到汽車(chē)發(fā)明了，他興高采烈地去學(xué)開(kāi)車(chē)。但你問(wèn)他學(xué)開(kāi)車(chē)干什么，是為了去更好地喂他自己的馬。你會(huì)有一種時(shí)空錯(cuò)置的感覺(jué)，他那些課程本身到底還有什么用？雖然我可以通過(guò)GPT作為助手學(xué)得更快，但是我為什么還要學(xué)這個(gè)東西？包括今天很多人還說(shuō)人工智能是Python寫(xiě)的，所以我要現(xiàn)在學(xué)Python。問(wèn)題在于，人工智能固然是Python寫(xiě)的，可是人工智能自己也會(huì)寫(xiě)Python。所以你在一個(gè)已經(jīng)有了人工智能的時(shí)代，你為什么要去學(xué)Python？這些問(wèn)題是真實(shí)存在的。但是人會(huì)有固有的慣性，我們不能夠一夜之間就調(diào)整到新時(shí)代。我們需要花很多時(shí)間，很可能要消耗到一兩代人的時(shí)間，才能夠真正跳轉(zhuǎn)過(guò)來(lái)。中間這個(gè)過(guò)程可能是非常混亂的，可能是非常無(wú)序的，甚至可能是波浪型的，我不知道。
王磬：你這里就講到一個(gè)我覺(jué)得挺有趣的邏輯上的矛盾，就是人工智能仍然是由這些人工智能的軟件工程師書(shū)寫(xiě)的?？梢赃@么說(shuō)，如果從現(xiàn)在開(kāi)始，新的這一代，他們就已經(jīng)覺(jué)得學(xué)習(xí)編程是一個(gè)不需要再去學(xué)的事兒。他們可能永遠(yuǎn)都不會(huì)達(dá)到可以去編寫(xiě)人工智能的水平。因?yàn)槟阋獙?xiě)，你肯定還是需要一系列的技術(shù)才能到達(dá)那個(gè)水平。如果是這樣子，未來(lái)的人工智能，它的更新?lián)Q代將會(huì)是一種什么樣的情況？自己給自己更新嗎？還是說(shuō)會(huì)怎么樣？你為什么笑？這個(gè)問(wèn)題很蠢是嗎？
木遙：不蠢，這個(gè)問(wèn)題是非常好的問(wèn)題，但是它過(guò)于科幻，以至于我很難忍住笑。我覺(jué)得長(zhǎng)遠(yuǎn)來(lái)看，人工智能自己更新自己是一定會(huì)發(fā)生的。但是重點(diǎn)不在于長(zhǎng)遠(yuǎn)，因?yàn)槟翘斓絹?lái)的時(shí)候我們都死了，重點(diǎn)在于我們?cè)趺催^(guò)渡到那一天，中間是什么樣一個(gè)狀況。簡(jiǎn)單的說(shuō)，我不知道，因?yàn)槟銌?wèn)的問(wèn)題其實(shí)是一個(gè)不光是在編程領(lǐng)域，在各個(gè)領(lǐng)域都存在的問(wèn)題，人工智能首先淘汰的是任何一個(gè)技能上的平庸勞動(dòng)者。這很容易理解，對(duì)吧？因?yàn)槿绻闶钦娴囊粋€(gè)極其出色的人，你仍然是有一技之長(zhǎng)可以做得比較好的。但如果你只是平庸，只是平均（average）水平，人工智能就很容易把你去掉。但你馬上就會(huì)問(wèn)，你把平庸的人都淘汰掉了，那些少數(shù)的人，他們從哪里成長(zhǎng)起來(lái)，對(duì)吧？我就像我們剛才說(shuō)了一個(gè)公司里面那些小張小王都被淘汰掉了，老板不會(huì)被淘汰，可是老板也不是天上掉下來(lái)的，他也得從小張小王那個(gè)地方干起來(lái)。用中國(guó)人的話說(shuō)，“宰相必起于州部”，他必須從一個(gè)小官干起，一步步干到宰相。如果你把第一層的平庸的東西都干掉了，社會(huì)職業(yè)路徑是怎么樣的？我們沒(méi)有經(jīng)歷過(guò)這種情況，所以我不知道未來(lái)的社會(huì)到底怎么樣。如你所說(shuō)，大家都不學(xué)Python，到底一個(gè)人怎么變成寫(xiě)Python、寫(xiě)人工智能的工程師？雖然那可能是個(gè)很小的群體，全世界只需要1000個(gè)人就夠了。但他的職業(yè)路徑是怎么樣的，我不知道，但我說(shuō)我比較有把握的是這樣一種現(xiàn)象會(huì)一定會(huì)發(fā)生。
人工智能的出現(xiàn)，會(huì)極大地放大人和人之間技能差異所帶來(lái)的資源差異。這個(gè)過(guò)程不是新的。人類(lèi)歷史就是這樣一個(gè)過(guò)程。在農(nóng)耕時(shí)代，一個(gè)好的農(nóng)民和一個(gè)壞的農(nóng)民的年的收成的差異，不會(huì)有特別大的差異，差出一倍撐死了。到工業(yè)革命時(shí)代，一個(gè)好的工程師或者一個(gè)好的技工，他所能創(chuàng)造的價(jià)值就已經(jīng)比一個(gè)平庸的人、平庸的技工創(chuàng)造價(jià)值要高很多了。因?yàn)闄C(jī)器可以放大差距的能力。到了編程時(shí)代，過(guò)去20年，你已經(jīng)會(huì)發(fā)現(xiàn)一個(gè)好的軟件工程師，他所能的創(chuàng)造的價(jià)值，他所能夠造成的社會(huì)影響，會(huì)遠(yuǎn)遠(yuǎn)高于一個(gè)平庸的、學(xué)了兩天Javascript就跑到社會(huì)上找工作的一個(gè)普通的碼農(nóng)，差距會(huì)非常非常的大。我曾經(jīng)跟磬有一次私下聊天聊過(guò)這個(gè)問(wèn)題，Google有一個(gè)非常著名的工程師叫Jeff Dean。當(dāng)然了，很多人說(shuō)他已經(jīng)不是工程師，應(yīng)該叫領(lǐng)導(dǎo)。但是他自己確實(shí)寫(xiě)程序上來(lái)的，他今天也仍然在寫(xiě)代碼，技術(shù)上來(lái)說(shuō)，他也是一個(gè)碼農(nóng)。他和一個(gè)一般碼農(nóng)所能創(chuàng)造的價(jià)值的差別可能是成千上萬(wàn)倍的。當(dāng)然，他拿的工資也確實(shí)是成千上萬(wàn)倍。而AI會(huì)把這個(gè)曲線再進(jìn)一步推得更陡峭。AI會(huì)讓極少數(shù)控制AI、掌握AI的人，他們所作為資源的網(wǎng)絡(luò)的樞紐節(jié)點(diǎn)，他們所創(chuàng)造價(jià)值的能力和調(diào)動(dòng)資源的能力會(huì)遠(yuǎn)遠(yuǎn)超于普通的一半人。這是我們今天社會(huì)面對(duì)的真實(shí)問(wèn)題。我們本來(lái)已經(jīng)面對(duì)很大的社會(huì)不平等了，但AI會(huì)把這個(gè)東西更進(jìn)一步地放大。這個(gè)現(xiàn)象很多人今天已經(jīng)發(fā)現(xiàn)了。今天如果你去推特上看業(yè)內(nèi)人士對(duì)AI的輔助編程這件事情的討論，大家都發(fā)現(xiàn)了一個(gè)現(xiàn)象，AI會(huì)成百上千倍的提高一個(gè)好的工程師的工作效率。只要你能夠很快掌握跟它共同工作的節(jié)奏和模式，它會(huì)讓強(qiáng)者更強(qiáng)的馬太效應(yīng)極其顯著。
所以在那種情況下就會(huì)發(fā)現(xiàn)，一般的社會(huì)職業(yè)也好，或者少數(shù)的我們小時(shí)候特定的編程這樣的工作也好，大量的工作是由極少數(shù)人承擔(dān)的，而那極少數(shù)人因?yàn)橛辛薃I的幫助，他會(huì)非常容易地調(diào)動(dòng)各種各樣的資源，而大量的人會(huì)完全無(wú)法跟上。這種社會(huì)結(jié)構(gòu)顯然是有它的問(wèn)題的。社會(huì)不平等大家都知道是非常深刻的問(wèn)題，但是它跟我剛剛說(shuō)的大部分人會(huì)失去存在意義，或者會(huì)面對(duì)一個(gè)存在主義危機(jī)結(jié)合在一起，它會(huì)以什么樣的形式延續(xù)，它會(huì)不會(huì)導(dǎo)致整個(gè)社會(huì)的不穩(wěn)定？我不知道，因?yàn)榱宋覀儧](méi)有碰到過(guò)這樣的情況，但是至少目前來(lái)看，趨勢(shì)確實(shí)是這樣的。
王磬：我覺(jué)得我們可以順著這里聊一下AI，或者我們先聊ChatGPT可能會(huì)面臨的倫理的問(wèn)題，以及監(jiān)管的問(wèn)題。我也在港中大課上跟我的學(xué)生簡(jiǎn)單交流了一下，我就問(wèn)他們，你對(duì)于ChatGPT可能最想了解的是什么？其實(shí)很有意思的是，不少同學(xué)都提到希望了解ChatGPT應(yīng)該可以怎么樣去更好的監(jiān)管。
我覺(jué)得這其實(shí)可能一方面是因?yàn)檎n上的大多數(shù)朋友還是文科生，所以我們思考問(wèn)題的角度更是從一個(gè)社會(huì)治理的角度去思考。但另一方面，我覺(jué)得其實(shí)也能夠體現(xiàn)出某種程度的焦慮。在焦慮的情況下，可能是有一部分人會(huì)希望AI發(fā)展的更慢一點(diǎn)，給不受監(jiān)管\不受控制的這種野蠻生長(zhǎng)去提供一定的阻力，或者提供一定的規(guī)范框架。所以我也想了解你是怎么樣看待這個(gè)事兒的。科技監(jiān)管這個(gè)事兒我覺(jué)得也是一個(gè)老生常談。我們知道在美國(guó)、在中國(guó)、在歐洲，其實(shí)不同的制度下對(duì)科技監(jiān)管是有不同的態(tài)度。像我比較熟悉的歐洲，其實(shí)對(duì)于這些年來(lái)比較主流、比較迅猛的一些科技發(fā)展，一些科技公司的壯大，都是采取了一種相對(duì)來(lái)說(shuō)監(jiān)管為主的這樣一種思路。但在美國(guó)和在中國(guó)，一方面由于這種科學(xué)巨頭的存在，另一方面我覺(jué)得也跟本地的社會(huì)還有企業(yè)文化有關(guān)系，對(duì)監(jiān)管會(huì)呈現(xiàn)出一種可能相對(duì)來(lái)說(shuō)更開(kāi)放的態(tài)度。我不知道在你看來(lái)，你覺(jué)得對(duì)ChatGPT來(lái)說(shuō)，我們現(xiàn)在去聊監(jiān)管是不是為時(shí)尚早，還是我們現(xiàn)在去聊它已經(jīng)有點(diǎn)晚了。
木遙：首先，我百分之百的同意AI必須以合適的方式監(jiān)管。但監(jiān)管本身是一個(gè)含義模糊的詞，根本不讓AI發(fā)展也是一種監(jiān)管。但很顯然，這未必是你想要的監(jiān)管。你剛說(shuō)到中國(guó)、美國(guó)、歐洲的差別，我相信你自己在歐洲，你一定對(duì)這個(gè)情況非常熟悉。歐洲一方面確實(shí)它監(jiān)管更嚴(yán)厲，但另外一方面，它也因此在過(guò)去20年的科技浪潮中明顯落后于中國(guó)。所以它固然避免了很多問(wèn)題，但其結(jié)果就是今天的互聯(lián)網(wǎng)巨頭可能一半在中國(guó)，一半在美國(guó)。在歐洲的幾乎沒(méi)有，不是完全沒(méi)有，但是明顯落后了，跟歐洲應(yīng)當(dāng)在科學(xué)技術(shù)浪潮中的應(yīng)有的地位完全不相稱(chēng)。
王磬：而且某種程度上我了解到的正好是因?yàn)樗鼪](méi)有這種科技巨頭，所以它在通過(guò)一些監(jiān)管法案的時(shí)候，它面臨的游說(shuō)的阻力更小。所以它是有點(diǎn)相輔相成的過(guò)程。
木遙：對(duì)，它就變成一個(gè)惡性循環(huán)了。因?yàn)檎筒⒉恍枰櫦删揞^的壓力，所以政客就可以通過(guò)各種各樣的立法，通過(guò)立法之后，他又未必真的懂這一行。其實(shí)我說(shuō)立法可能扼殺了創(chuàng)新，或者至少阻礙了創(chuàng)新，更加難于生長(zhǎng)出新的巨頭出來(lái)。但總而言之，我不知道歐洲的政界怎么看待這個(gè)問(wèn)題，但是至少你從一個(gè)旁觀的角度來(lái)看，它確實(shí)落后了，對(duì)吧？可能在監(jiān)管上沒(méi)有落后，但是在經(jīng)濟(jì)上、在技術(shù)上都落后，這種落后長(zhǎng)遠(yuǎn)來(lái)看是福是禍，很難講。特別是歐洲人，你也知道，他本來(lái)可能覺(jué)得我生活也就挺好了，我干嘛要像中國(guó)人那樣卷對(duì)吧？每年夏天我去海邊度假就好了，我并不需要科技巨頭，這當(dāng)然也是一種生活哲學(xué)。但是當(dāng)這種差別更大的時(shí)候，我不知道歐洲人能不能還那么心平氣和。如果他發(fā)現(xiàn)AI真的是新的工業(yè)革命，而他被工業(yè)革命放棄了。就像早年的工業(yè)革命誕生于英國(guó)，從歐洲擴(kuò)散到整個(gè)全球。如果今天反過(guò)來(lái)，歐洲變成了工業(yè)革命的洼地，我不知道歐洲人會(huì)怎么來(lái)理解這個(gè)事情。
但是到監(jiān)管的時(shí)候，你必須要考慮的一個(gè)問(wèn)題是，你不能做膝跳反射式的監(jiān)管。什么叫膝跳反射式的監(jiān)管？你在還沒(méi)有了解這個(gè)事情的本質(zhì)之前，就憑著恐慌或者憑著焦慮來(lái)做很容易被時(shí)代拋棄的決定，你的決定很可能不是基于完備的事實(shí)做的，也不是基于對(duì)長(zhǎng)遠(yuǎn)的深刻洞察做的，而是基于你在那一刻的本能反應(yīng)做的。這種監(jiān)管很容易變得毫無(wú)意義，要么過(guò)度嚴(yán)厲，要么被現(xiàn)實(shí)拋在后面。
在這點(diǎn)上，我其實(shí)……下面這句話很可能又會(huì)引起很多爭(zhēng)議，但是我是對(duì)所謂的文科輿論界也罷，知識(shí)界也罷，對(duì)這件事情的反應(yīng)，讓我是覺(jué)得有點(diǎn)失望的。因?yàn)槲矣X(jué)得大部分我看到的反應(yīng)、大部分我看到的批評(píng)。都不在點(diǎn)上的批評(píng)就不是真正的批評(píng)，也不能構(gòu)成有效的監(jiān)管，這很容易理解，對(duì)吧？我剛才已經(jīng)舉了一個(gè)例子，就喬姆斯基那里。但他畢竟90多歲，大家知道他老了。但另外一個(gè)很好的例子就是前一陣子非常流行的那篇文章，姜峯楠那篇寫(xiě)在紐約客上的文章。他的那篇文章是發(fā)在1月份，他自己是科幻作家，大家認(rèn)為科幻作家應(yīng)當(dāng)是比較有前瞻性的，但是他那篇文章就非常落后于現(xiàn)實(shí)發(fā)展。他寫(xiě)得非常好，那篇文章本身寫(xiě)的就文章而言是很好的，唯一的問(wèn)題就是它落后于現(xiàn)實(shí)。它文章的結(jié)語(yǔ)是，ChatGPT不過(guò)是關(guān)于現(xiàn)實(shí)互聯(lián)網(wǎng)的一個(gè)拙劣的、模糊的復(fù)印機(jī)，你有真實(shí)的世界在那里，你要復(fù)印機(jī)干什么？這個(gè)結(jié)論是，說(shuō)白一點(diǎn)，錯(cuò)的。ChatGPT并不是現(xiàn)實(shí)世界的復(fù)印機(jī)。我相信他如果哪怕推遲兩個(gè)月寫(xiě)文章，他都不會(huì)把文章寫(xiě)成那樣，因?yàn)榻裉斓默F(xiàn)實(shí)已經(jīng)非常明確地揭示這一點(diǎn)。這文章寫(xiě)得很早，所以他做出了一個(gè)在我看來(lái)膝跳反射式的反應(yīng)。如果你基于這樣的反應(yīng)來(lái)做監(jiān)管，當(dāng)然不會(huì)形成任何有意義的監(jiān)管。
這反映一個(gè)現(xiàn)實(shí)問(wèn)題就是，我們不說(shuō)文科生或者怎么樣，但是確實(shí)大部分人，如果他不處在這個(gè)技術(shù)的核心地帶，他確實(shí)容易因?yàn)榧夹g(shù)上就不是很了解，所以會(huì)有各種各樣不正確的反應(yīng)。如果你是個(gè)老百姓，當(dāng)然無(wú)所謂，但如果你是知識(shí)界的重要領(lǐng)袖，或者你是政客，你是能夠真正參與監(jiān)管過(guò)程的人，你在你不了解的時(shí)候就做出反應(yīng)，就會(huì)導(dǎo)致這樣的誤區(qū)。但是了解又非常困難，因?yàn)橐粋€(gè)人可能沒(méi)有這樣的知識(shí)儲(chǔ)備，對(duì)不對(duì)？我相信像神經(jīng)網(wǎng)絡(luò)這樣的詞，你今天也耳熟能詳了。但是大部分如果不是做這一行的人其實(shí)對(duì)神經(jīng)網(wǎng)絡(luò)只有一個(gè)非常抽象的、模糊的概念。了解到底什么叫一個(gè)神經(jīng)網(wǎng)絡(luò)，一個(gè)神經(jīng)網(wǎng)絡(luò)有多大，怎么運(yùn)行，是沒(méi)有一個(gè)上手的概念的。在這種情況下，你到底怎么監(jiān)管？你是不是要等到他已經(jīng)全世界開(kāi)花結(jié)果了再去監(jiān)管？那個(gè)時(shí)候確實(shí)太晚了。但你早期監(jiān)管的時(shí)候，你怎么介入？所以我覺(jué)得比較重要的辦法就是多進(jìn)行像我們今天這樣的討論，盡早了把不熟悉技術(shù)背景，但又在輿論場(chǎng)上，或者在政治上，或者在知識(shí)上，重要的既是業(yè)外又能夠影響社會(huì)的聲音納入進(jìn)來(lái)。
讓大家能達(dá)成一些共識(shí)（on the same page），至少在事實(shí)層面上弄清楚發(fā)生了什么，什么即將發(fā)生，它的能力的上限在哪里？哪些事情我們今天仍然不認(rèn)為它能做到，哪些事情你們以為它其實(shí)不可能做到，但是它其實(shí)今天已經(jīng)能做到了。把這些事情先弄清楚，再來(lái)談我們?cè)撛趺幢O(jiān)管的問(wèn)題，對(duì)不對(duì)？有些問(wèn)題可能是吸引眼球的，比方我們禁止它談戀愛(ài)，或者禁止它給人看病。有些東西是更本質(zhì)的，和我剛剛說(shuō)的，如果它極大地沖擊了我們今天社會(huì)上已經(jīng)很加劇的不平等，怎么辦？我們有沒(méi)有社會(huì)上的好的機(jī)制去介入，去做一個(gè)補(bǔ)助，或者是一個(gè)對(duì)人的關(guān)懷。這些問(wèn)題是更現(xiàn)實(shí)，說(shuō)老實(shí)話，也更緊迫的。
王磬：說(shuō)到監(jiān)管的問(wèn)題，我覺(jué)得其實(shí)這幾年不光是歐盟相對(duì)比較偏嚴(yán)格的立法的思路，還是在美國(guó)之前這些科技巨頭去國(guó)會(huì)做聽(tīng)證的時(shí)候，你也能看出來(lái)。其實(shí)我覺(jué)得很多的議員對(duì)科技是非常缺乏了解的，如果你考慮到他們的年紀(jì)，也對(duì)這個(gè)情況并不意外，可能他們能夠問(wèn)出的一些問(wèn)題是他們的助手給他們的，他們自己可能本身對(duì)這樣的最新的技術(shù)進(jìn)步并不感興趣，但他們手中同時(shí)握有非常大的關(guān)于這個(gè)社會(huì)應(yīng)該如何結(jié)構(gòu)的權(quán)利。就是你剛剛提到的為什么要花60年才能夠廢除科制。所以我覺(jué)得這是一個(gè)可以是人類(lèi)遺留的一個(gè)這種劣根性的問(wèn)題。
另一個(gè)問(wèn)題，我覺(jué)得可能對(duì)于當(dāng)下的人來(lái)說(shuō)更迫切的一個(gè)問(wèn)題，你剛才也提到的，我們需要讓不管是哪個(gè)行業(yè)，哪個(gè)領(lǐng)域是文科生、理科生，是中國(guó)人、美國(guó)人、歐洲人，大家可能需要對(duì)一些即將改變我們生活的科技技術(shù)有一個(gè)相對(duì)來(lái)說(shuō)在同一個(gè)水位上的認(rèn)識(shí)。我覺(jué)得認(rèn)識(shí)其實(shí)是很難達(dá)到的，某種程度上在集體層面上去提高這種觀念的水位。比如到一個(gè)比較實(shí)際的問(wèn)題，你今天提到了很多次，說(shuō)我們應(yīng)該為社會(huì)去做準(zhǔn)備，因?yàn)樗皇羌磳l(fā)生，它是已經(jīng)在發(fā)生、正在發(fā)生。如果要你給出一些建議，你會(huì)給出怎樣的建議？我們可以怎樣去為社會(huì)做準(zhǔn)備？
木遙：這是個(gè)很好的問(wèn)題。我先給你講一個(gè)我自己的體驗(yàn)。我自己在網(wǎng)上經(jīng)常會(huì)聊這個(gè)事情，我發(fā)現(xiàn)當(dāng)我長(zhǎng)篇大論地講我覺(jué)得技術(shù)大概怎么回事的時(shí)候，當(dāng)然反應(yīng)也很好。但是反應(yīng)最好的永遠(yuǎn)是，我貼出一個(gè)視頻說(shuō)你看現(xiàn)在也可以干這個(gè)了。這種事情當(dāng)然讓你覺(jué)得有點(diǎn)好笑，因?yàn)槟愀冻龅膭趧?dòng)反而后者是最輕的，你就貼一個(gè)視頻就可以了。但是我們社會(huì)就是這么運(yùn)作，對(duì)不對(duì)？大家你看一個(gè)長(zhǎng)文，想象它給你帶來(lái)的影響總是不直觀的。而直觀就是，哇，AI可以干這個(gè)了，一個(gè)短視頻，越短越好，1分鐘以?xún)?nèi)，你放到抖音上，馬上一夜之間，所有人都看到。大家說(shuō)怎么辦，失業(yè)了。這種沖擊是最強(qiáng)烈的。這當(dāng)然是一個(gè)非常尷尬，也不是一個(gè)很理想的狀況。但是這是一個(gè)真實(shí)的狀況。你剛剛說(shuō)的關(guān)鍵的水位很難持平。如果是1840年那個(gè)時(shí)候，你讓大家都接受科舉制，已經(jīng)過(guò)時(shí)了，很困難。今天的好處，也不能叫好處。今天現(xiàn)實(shí)是，你不用真的等那么久，因?yàn)榇蠹液芸炀蜁?huì)見(jiàn)到真實(shí)的東西了。
1840年那個(gè)時(shí)候，畢竟你讓中國(guó)一個(gè)內(nèi)陸縣城感受到洋人的沖擊，沒(méi)有那么劇烈，對(duì)不對(duì)？頂多能見(jiàn)到一個(gè)火柴，但是他們可能見(jiàn)不到。鐵路修建需要時(shí)間。但是今天你再怎么對(duì)技術(shù)懷疑的人，其實(shí)也你也不需要跟他爭(zhēng)論，因?yàn)閹滋熘螅蜁?huì)在現(xiàn)實(shí)面前敗下陣來(lái)，對(duì)吧？他周?chē)硕奸_(kāi)始在office用的時(shí)候，不再打一整行字了，他就直接在旁邊問(wèn)我現(xiàn)在想寫(xiě)這么個(gè)東西，幫我列一個(gè)稿子來(lái)，它就列出來(lái)了。你再怎么懷疑技術(shù)的人，他也很快就會(huì)用上這個(gè)東西。這是一個(gè)事實(shí)層面的征服它的過(guò)程。所以關(guān)鍵首位反而是比較容易持平的。因?yàn)榇蠹視?huì)眼見(jiàn)為實(shí)。你讓大家想象一個(gè)未來(lái)是比較吃力，但是你讓他看到大家比較認(rèn)可，你讓他用到，他就更加啞口無(wú)言了。我剛才說(shuō)我律師朋友，他自己其實(shí)是非常非常不喜歡探索新技術(shù)的人。他你讓他說(shuō)服他用一個(gè)新的APP是非常困難的。他真的一用，他發(fā)現(xiàn)這東西真的管用，他很快就會(huì)被說(shuō)服。但是被說(shuō)服這東西有意義、這東西有影響是一回事，做好準(zhǔn)備是另外一回事。因?yàn)楹芏嗳宋覄偛耪f(shuō)了，他不是資源的占有者，他很可能是在浪潮中間被擺布的、被淘汰的，或者至少是被沖擊的對(duì)象。他可以說(shuō)好的，我現(xiàn)在知道了，我觀念跟上了，我知道office可以干這個(gè)了，我本來(lái)花上1小時(shí)才能做到幻燈片，他2秒鐘就給我干好了，但這只能說(shuō)明我老板不需要我了，我該怎么辦？首先，我最大的回答，當(dāng)然是最簡(jiǎn)單的回答就是我不知道，因?yàn)槲掖_實(shí)不知道。但是如果你今天是一個(gè)仍然在職業(yè)生涯初期的人，我覺(jué)得有一個(gè)可能是老生常談，但也確實(shí)真實(shí)有效的回答是這樣的。你必須意識(shí)到，當(dāng)大潮襲來(lái)的時(shí)候，你最大的資產(chǎn)，一是你的安全保障。安全保障當(dāng)然體現(xiàn)在各種方面，而且這東西很大程度上也不是你自己能夠想有就有的，也取決于你的家境或者怎么樣。但是安全保障是第一位。
王磬：富二代水位會(huì)高一點(diǎn)是嗎？富二代就在泰坦尼克的……開(kāi)玩笑，你說(shuō)。
木遙：不是開(kāi)玩笑，這是真實(shí)的。但是第二個(gè)問(wèn)題就是你保持自己的靈活性。靈活性體現(xiàn)在，不管發(fā)生了什么樣的未來(lái)，你都有以某種方式可能是你比較不好想象的方式去面對(duì)它，包括很多人開(kāi)玩笑，好的，我也會(huì)去給人送外賣(mài)，或者好的，我也會(huì)去當(dāng)廚子，有開(kāi)玩笑的成分。但是無(wú)論如何，你越有選擇，或者你越能夠保持自己的選項(xiàng)的靈活性（flexibility），你就越能夠迎接變化。你越早把自己鎖死在一個(gè)道路上，你就越不容易迎接變化。今天很多在互聯(lián)網(wǎng)上的關(guān)于AI討論，下面最常見(jiàn)的評(píng)論是什么？說(shuō)，好的，我明天就去考公。因?yàn)槟阒?，?duì)中國(guó)人來(lái)說(shuō)，宇宙的終點(diǎn)是體制，考公永遠(yuǎn)顯得像是最后的救生衣。但考公就是一個(gè)非常典型的把自己的所有路徑都鎖死的一個(gè)東西。我不是說(shuō)大家不能考公，我只單純說(shuō)這是限縮了自己的選項(xiàng)。當(dāng)你限縮了自己的選項(xiàng)之后，當(dāng)大潮襲來(lái)的時(shí)候，你的靈活性就會(huì)降低，你的安全感就會(huì)降低，你就會(huì)更加深刻地陷入焦慮。所以我知道這話聽(tīng)起來(lái)非常的虛，而且這也不是什么有操作項(xiàng)（action item）的建議。但是保持自己的靈活性（flexibility）可能是面對(duì)大潮的時(shí)候，能為自己做的最好的事情。
王磬：我分享幾個(gè)最近也是在網(wǎng)上看到的和身邊接觸到的關(guān)于ChatGpt的段子。就一個(gè)是ChatGpt接下來(lái)就會(huì)把我們的智力情感的功能部分取代，甚至是全部的取代。我們還剩什么？還剩一副皮囊，不如從今天開(kāi)始就每天去健身房，起碼是ChatGPT不能夠取代的一副美麗的皮囊。
第二個(gè)也是我在課上也跟我的一個(gè)學(xué)生交流，我就說(shuō)其實(shí)像他們現(xiàn)在都還在念本科生、研究生。就像你剛剛提到的這種職場(chǎng)初期，可能還沒(méi)有進(jìn)入即將步入職場(chǎng)的這么一群人。其中一個(gè)女孩，她之前是特別喜歡寫(xiě)作，我就問(wèn)她，你現(xiàn)在知道ChatGPT，它可能會(huì)在未來(lái)有這樣的一些影響，你會(huì)怎么樣去調(diào)整自己現(xiàn)在的時(shí)間分配？他現(xiàn)在可能就會(huì)希望能把更少的時(shí)間放在寫(xiě)作上，因?yàn)樗l(fā)現(xiàn)ChatGPT已經(jīng)可以寫(xiě)出非常漂亮的、非常精準(zhǔn)的句子。所以更多的時(shí)間放在寫(xiě)作上，會(huì)讓她覺(jué)得浪費(fèi)時(shí)間，浪費(fèi)精力，不能夠?qū)ξ磥?lái)去做出一個(gè)更好的準(zhǔn)備。這些時(shí)間要放在哪？她的回答是，她希望能夠放在更有創(chuàng)造力的工作上，能去做一些更有創(chuàng)意性的事兒。
我覺(jué)得這里就陷入一個(gè)其實(shí)有點(diǎn)吊詭的狀態(tài)。首先，在過(guò)去，在我們看來(lái)，寫(xiě)作本身就是一個(gè)具有創(chuàng)造性的事兒。其次，如果寫(xiě)作都不算是一個(gè)具有創(chuàng)造性的事兒了。什么樣的事兒？在ChatGPT的時(shí)代，它仍然是具有創(chuàng)造性的，它仍然是足夠創(chuàng)新，足夠創(chuàng)意，以至于它不可能會(huì)被ChatGPT取代的，因?yàn)檫@種創(chuàng)業(yè)性的工作不會(huì)被人工智能取代。我覺(jué)得這也是一個(gè)科技界的這種老生常談，我不知道是不是就講出來(lái)安慰文科生的。但是我這幾天在比如網(wǎng)上刷一些評(píng)論的時(shí)候，也看到ChatGPT，它其實(shí)現(xiàn)在也可以部分地去進(jìn)行創(chuàng)造了。我也想把這個(gè)問(wèn)題丟給你。你覺(jué)得這種我們可以把人的精力、智慧更多投入在創(chuàng)造性的工作，而不是重復(fù)性的工作上。這個(gè)說(shuō)法在ChatGPT時(shí)代是站得住腳的嗎？是可以讓我們免受沖擊或者減少我們所受的沖擊的一個(gè)行動(dòng)嗎？
木遙：你剛剛講了兩個(gè)事情，我覺(jué)得都挺值得回應(yīng)的。我現(xiàn)在先回答第二個(gè)問(wèn)題。
王磬：你不要先回答一下漂亮的皮囊的問(wèn)題嗎？
木遙：我先回答第二個(gè)問(wèn)題，然后回頭來(lái)討論皮囊的問(wèn)題。第二個(gè)問(wèn)題是創(chuàng)意的問(wèn)題。我的簡(jiǎn)單的回答是可能不是那么簡(jiǎn)單。今年2月份有一個(gè)論文是討論怎么用GPT幫助科研工作者做research，他就找了一個(gè)領(lǐng)域，讓GPT來(lái)完成四個(gè)任務(wù)。一個(gè)任務(wù)是產(chǎn)生新的idea，一個(gè)任務(wù)是綜述已經(jīng)有的工作，一個(gè)任務(wù)是準(zhǔn)備數(shù)據(jù)，一個(gè)任務(wù)是實(shí)現(xiàn)和測(cè)試。你聽(tīng)起來(lái)這4個(gè)任務(wù)，第一個(gè)任務(wù)就是你剛剛說(shuō)的更接近于人所說(shuō)的創(chuàng)造情況，對(duì)不對(duì)？產(chǎn)生新的idea。后面那些聽(tīng)起來(lái)好像更瑣碎一點(diǎn)，更技術(shù)性一點(diǎn)。他把這四個(gè)任務(wù)都交給GPT來(lái)做，把GPT的工作交給專(zhuān)家來(lái)打分。最后發(fā)現(xiàn)什么？發(fā)現(xiàn)GPT得分最高的是第一項(xiàng)，不是2、3、4。為什么？因?yàn)楫a(chǎn)生新想法這個(gè)事情反而落到了GPT的強(qiáng)項(xiàng)，它從已有的各種各樣的知識(shí)的海洋中，我們不管這個(gè)比喻什么意思，或者一堆語(yǔ)詞的海洋之中找到可能可以連接，但人們還沒(méi)有想出連接的東西出來(lái)，把它作為一個(gè)新的idea，propose出來(lái)，這個(gè)東西反而讓它來(lái)做更有效。真正的你讓他老老實(shí)實(shí)去準(zhǔn)備數(shù)據(jù)測(cè)試，可能反而……至少今天的AI水平就那么回事。
這個(gè)故事告訴我們兩件事情。第一就是所謂的創(chuàng)造性活動(dòng)，其實(shí)沒(méi)有那么不容易被AI所攻克，AI是可以做這種事情的。第二，存不存在AI暫時(shí)也做不到的?真正的創(chuàng)意一定存在。我們能找到某些極端的例子，在藝術(shù)上，在科學(xué)上，在文化觀點(diǎn)上，完全原創(chuàng)性的，它不存在在既有的世界上的東西完全從無(wú)到有地創(chuàng)新出來(lái)。我舉個(gè)很簡(jiǎn)單的例子，假如今天沒(méi)有比特幣，ChatGPT能不能設(shè)想出比特幣這樣的東西？我其實(shí)有點(diǎn)懷疑，因?yàn)樗鄙僖环N完全新的想法。這東西不是從既有想法中間聯(lián)系出來(lái)的，它是一個(gè)新的東西。當(dāng)然你也可以。它其實(shí)是把某一個(gè)idea跟某一個(gè)idea放在一起，它總不可能真的從天上掉下來(lái)。但是它不能夠從現(xiàn)有的所謂的知識(shí)元素的海洋之中挖掘出來(lái)。這樣的例子是有的，但是這樣的例子本來(lái)對(duì)普通人來(lái)說(shuō)也沒(méi)什么實(shí)際用處，你一個(gè)普通人有多大的幾率在一生中發(fā)明一個(gè)像比特幣這樣的東西，不太可能，對(duì)不對(duì)，所以它作為一種安慰是沒(méi)有什么意義的。你必須要真正非常非常原創(chuàng)才夠用。那1000萬(wàn)個(gè)人中只有一個(gè)人，這對(duì)大部分來(lái)說(shuō)不構(gòu)成任何實(shí)際的操作性。這是我對(duì)你第二個(gè)問(wèn)題的回應(yīng)。這是一個(gè)不太振奮人心的回應(yīng)，但是結(jié)論就是原創(chuàng)性這個(gè)東西，至少平庸的原創(chuàng)性或者日常普通的老百姓可以達(dá)到的。原創(chuàng)性其實(shí)沒(méi)有那么神秘，AI是可以達(dá)到的。
第一個(gè)關(guān)于皮囊那個(gè)問(wèn)題，我覺(jué)得它不是一個(gè)段子，它是一個(gè)真實(shí)的問(wèn)題，就是皮囊聽(tīng)起來(lái)有點(diǎn)過(guò)于物質(zhì)化，對(duì)吧？你就可以靠整容來(lái)獲得一個(gè)好的皮囊。但是我剛才說(shuō)了，在未來(lái)的職場(chǎng)上，或者是未來(lái)社會(huì)結(jié)構(gòu)上，AI可能最無(wú)法取代人類(lèi)的，是關(guān)于人的互動(dòng)（interaction）的部分。你怎么樣說(shuō)服一個(gè)人，你怎么樣領(lǐng)導(dǎo)一個(gè)人，你怎么樣團(tuán)結(jié)一幫人，你怎么樣去塑造共識(shí)，怎么樣去彌合分歧。而這些東西確確實(shí)實(shí)在很大程度上是依賴(lài)于我們?nèi)俗鳛樯锷系娜说囊恍┨匦缘摹?/p>
如果你在過(guò)去的時(shí)代，你說(shuō)職場(chǎng)上長(zhǎng)得好看的人會(huì)被優(yōu)先提拔，雖然大家知道這可能是真的，但是大家認(rèn)為他至少不應(yīng)當(dāng)如此。你應(yīng)當(dāng)提拔是誰(shuí)的？應(yīng)當(dāng)提拔是能干的，聰明的，而不是長(zhǎng)得好看的。但是如果你的能干和聰明被AI取代了，你剩下的可能也確實(shí)就是好看了。
王磬：天哪，普通人到底要怎么辦？
木遙：但是我這里來(lái)把他說(shuō)的政治正確一點(diǎn)。我們這里說(shuō)的好看，不是弄一張網(wǎng)紅臉那種好看，而是更抽象的領(lǐng)導(dǎo)力（leadership），或者是影響人的能力。
王磬：克里斯瑪。
木遙：對(duì)，克里斯瑪，這個(gè)詞比較政治正確一點(diǎn)。不是單純搞一個(gè)韓式半永久就可以搞定的，它需要一些更抽象的東西。但確實(shí)這個(gè)東西對(duì)AI來(lái)說(shuō)是最困難的。因?yàn)檎f(shuō)老實(shí)話，當(dāng)你說(shuō)我們應(yīng)該提拔最聰明的，其實(shí)難道聰明不是也是一種類(lèi)型上的生殖彩票嗎？為什么？聰明作為天生的天賦作為評(píng)價(jià)人的標(biāo)準(zhǔn)就好像很合理，而皮囊也是一個(gè)DNA矩陣，就不合理？你仔細(xì)想想看，這件事其實(shí)也沒(méi)什么必然性，它也是一個(gè)工業(yè)革命建構(gòu)出來(lái)的觀念。所以這個(gè)觀念既然可以被建構(gòu)出來(lái)，它也是可以被打破的。你沒(méi)有理由認(rèn)為100年后的人們?nèi)匀话崖斆髋旁谄つ抑埃驗(yàn)樗鋵?shí)也沒(méi)有什么特別本質(zhì)的原因。所以，克里斯瑪這個(gè)詞會(huì)好一點(diǎn)，這個(gè)東西可能是如果你今天想自我改造，從自己身上做起，可能著手都比較有效的途徑。鍛煉自己的影響力，鍛煉自己的溝通能力，鍛煉自己建立（build）一個(gè)團(tuán)隊(duì)的能力，鍛煉自己，用美國(guó)人喜歡說(shuō)的那套MBA的詞促成事情發(fā)生（make things happen）的能力。這個(gè)東西可能仍然是真實(shí)的。所以我覺(jué)得第一個(gè)反而不是一個(gè)段子，它是一個(gè)確實(shí)存在的問(wèn)題。
王磬：現(xiàn)在聽(tīng)完了今天這2個(gè)小時(shí)的科普也好，解釋也好，就是自己覺(jué)得確實(shí)覺(jué)得我自己會(huì)需要更多的消化一下。我覺(jué)得不光是它作為這種技術(shù)上的基本的結(jié)構(gòu)，也包括它可能會(huì)帶來(lái)的一些這種社會(huì)上的影響。如果往深一點(diǎn)去想，它真的是會(huì)重塑社會(huì)的方方面面。我平時(shí)很少講這個(gè)話，因?yàn)槲矣X(jué)得這是一個(gè)非?？盏脑?。說(shuō)白了，任何一個(gè)小的這種進(jìn)步，它都有可能達(dá)到這樣的一個(gè)目標(biāo)。但是我在今天聽(tīng)了這2個(gè)小時(shí)之后，我確實(shí)會(huì)有這樣的一個(gè)感覺(jué)。如果我稍微往深去想，它確實(shí)是會(huì)重塑我們社會(huì)的方方面面，從我們的工作，從我們休閑的方式，我們跟人打交道的這種方式，我們的教育，我們對(duì)于社會(huì)中什么樣的角色是更有優(yōu)先級(jí)的或者更本質(zhì)的。我們作為人之所以為人的這種更存在主義的一些思考，我覺(jué)得它確實(shí)是一個(gè)非常非常值得去實(shí)時(shí)的關(guān)注、保持更新的一件事兒。最后我想問(wèn)一下木遙老師，你個(gè)人有在為這一場(chǎng)變革的到來(lái)做一些個(gè)人層面的準(zhǔn)備嗎？
木遙：我覺(jué)得我能夠做的最目前來(lái)看最重要的事情就是，我得理解它發(fā)生了什么事情。即使我自己程序員出身，所以理解起來(lái)可能比一般人容易一點(diǎn)，我也仍然覺(jué)得要跟上每天新的東西的沖擊是一個(gè)很困難的事情。真的太快了。這周二ChatGPT4發(fā)布的那一天，推特上有個(gè)段子說(shuō)3月14號(hào)那天剛好是π day，所以Google和OpenAI都推了新的東西出來(lái)。網(wǎng)上有段子說(shuō)，2023年3月14號(hào)是人工智能發(fā)生史上重要的一年，它的意思是，那一天發(fā)生的事情就像平常一年發(fā)生的事情一樣。你想跟上這個(gè)速度是很困難的事情。所以我覺(jué)得我努力跟上，努力了解它的潛力，努力了解有什么事情可以自己上手去做，這也很困難。我也周?chē)泻芏嗯笥言谧鲱?lèi)似的事情，我們每天會(huì)交流有什么新的工具出來(lái)，這些東西可以試著用一下。它的好處是你真的很容易上手。以前你要一個(gè)心動(dòng)技術(shù)出來(lái)了，你要把手頭既有的東西放下去學(xué)它是有點(diǎn)心理障礙的。這東西只要你有點(diǎn)技術(shù)上的積累，要上手沒(méi)有很困難。你可能找一個(gè)周末，花上4個(gè)小時(shí)，就可以做出很多很多東西出來(lái)了。這也不是開(kāi)玩笑，GPT4發(fā)布的時(shí)候，他照了自己紙上的草稿，交給GPT。幾秒鐘之后就生成了一個(gè)網(wǎng)站出來(lái)。大家說(shuō)OK，你既然說(shuō)得這么厲害，我來(lái)試試看。然后一夜之間，真的是一夜之間。Twitter上就出現(xiàn)了用GPT4來(lái)做一個(gè)小游戲，用GPT4來(lái)做一個(gè)APP，用GPT4來(lái)做一個(gè)互動(dòng)性的服務(wù)。都出來(lái)了。這種時(shí)候，一方面會(huì)讓你覺(jué)得焦慮，大家動(dòng)作好快，一方面也會(huì)讓你覺(jué)得有信心，因?yàn)槟阌X(jué)得好像也沒(méi)有很困難，這么多人幾個(gè)小時(shí)都做出來(lái)，我應(yīng)該也可以。所以上手是比較容易的事情。積極地投入進(jìn)去可能是我今天能做的最容易的事情。當(dāng)然，你可能會(huì)問(wèn)，我不會(huì)寫(xiě)程序，我連上手都不會(huì)怎么辦？我也不知道。這不是一個(gè)很容易回答的問(wèn)題，但是對(duì)我來(lái)說(shuō)，跟上技術(shù)浪潮本身既有挑戰(zhàn)性，但同時(shí)還挺有樂(lè)趣的。
王磬：我問(wèn)一個(gè)也許普通人也能夠有一定參與感的問(wèn)題。比如，如果作為一個(gè)不是特別有技術(shù)背景的人，想比較快的、比較及時(shí)的去跟上現(xiàn)在的一些信息，你有什么推薦的工具或者信源嗎？
木遙：最簡(jiǎn)單的辦法就是了解這樣一個(gè)總規(guī)則。直接去看源頭，你就應(yīng)該直接去看源頭，會(huì)比較快。多看一線的資淺的但是活躍的工作人員的討論，少看所謂名人（big names）的討論。因?yàn)樵绞枪Τ擅偷娜?，不是說(shuō)他們的觀點(diǎn)一定是錯(cuò)的或者落伍的，但他們不是在一線工作的。所以他們第一還未必有那些名不見(jiàn)經(jīng)傳的一線工作人員的知識(shí)來(lái)得更新。第二他們會(huì)很容易受到他們既有成見(jiàn)的影響。比方我們大家都知道一個(gè)非常著名的人工智能專(zhuān)家，圖靈獎(jiǎng)獲得者Yann LeCun（燕樂(lè)存），他是一個(gè)非常重要的專(zhuān)家。但是他在過(guò)去幾個(gè)月里面一直在連篇累牘地寫(xiě)為什么這東西不重要，或者這東西方向是錯(cuò)的。這是不是意味著他已經(jīng)徹底被時(shí)代拋棄了？那也不一定，但是他確實(shí)有他的成見(jiàn)在，他覺(jué)得這個(gè)方向價(jià)值不如大家想象那么大。但是他最近好像漸漸也開(kāi)始承認(rèn)這個(gè)比他想象的要更有價(jià)值了。而這種錯(cuò)誤，一線的研究人員是不容易犯的，而一線人員很多人是非?；钴S的用社交媒體的。所以最簡(jiǎn)單的辦法就是你去推上關(guān)注那些今天正在Berkeley，今天正在MIT，或者今天正在OpenAI，今天正在deep mind做這個(gè)東西的人。他們很多人是保持非?；钴S的社交媒體的曝光的。去關(guān)注他們，去看他們的討論是最容易跟上浪潮的方法，而且他們會(huì)彼此爭(zhēng)吵。你通過(guò)他們之間的爭(zhēng)論，就能夠更容易獲得很多insight。
我覺(jué)得其實(shí)我們都在面對(duì)一個(gè)非常大的未知，而這個(gè)未知很可能會(huì)超越我們之前的未知。我們之前的未知會(huì)帶來(lái)一種想象，而這個(gè)未知會(huì)帶來(lái)一種恐慌。我承認(rèn)這一點(diǎn)，而且我也非常理解這一點(diǎn)。但是我自己從我自己的社交媒體上的活動(dòng)所后面收到的反饋，最大的感受是很多人仍然在用一種看熱鬧的方式來(lái)理解這件事情。他們可能會(huì)借機(jī)抒發(fā)一些焦慮，甚至借機(jī)抒發(fā)一些不滿(mǎn)。比方，很多人會(huì)借機(jī)討論為什么我們中文的語(yǔ)料不如英文的語(yǔ)料好，因?yàn)閎lah blah。這些當(dāng)然都是非常真實(shí)的情緒，但是有的時(shí)候會(huì)讓你覺(jué)得很多人是在用一種情緒化的方式在看待這件事情。我們當(dāng)然都知道今天的互聯(lián)網(wǎng)本來(lái)就是這樣，每件事情都顯得像是一個(gè)鬧?。╠rama）一樣，大家會(huì)用一種看熱鬧的方式來(lái)理解我們周?chē)钪械拿總€(gè)變革。但這件事情，我覺(jué)得它比一般意義上的表面的鬧劇要更深入一點(diǎn)。所以它值得你去拋棄成見(jiàn)與拋棄膝跳反射式的情緒化反應(yīng)，而去更仔細(xì)地理解一些事情，包括理解一些平?？赡懿粫?huì)問(wèn)自己的問(wèn)題，比方說(shuō)什么對(duì)你的人生來(lái)說(shuō)是最重要的。如果今天你對(duì)人生的理解被證明是要被推翻了，或者至少是要被潮水沖破了，你將以什么樣的方式來(lái)重塑你對(duì)人生的觀念？或者再問(wèn)的極端一點(diǎn)，這種問(wèn)題一般人不會(huì)每天問(wèn)自己，如果你今天可以選擇你人生的一個(gè)目的（purpose），這個(gè)目的會(huì)是什么才最讓你覺(jué)得，即使你的工作被AI取代了，它也仍然能讓你覺(jué)得你在這世界上安身立命是有意義的。
鄂公網(wǎng)安備 42010302001612號(hào) 