這篇論文雖然好像是沒(méi)有發(fā)表，就在arxiv上展示了一下，但確實(shí)前段時(shí)間在公眾號(hào)之間傳瘋了。我個(gè)人倒是沒(méi)太在意，雖然"XXX有心智"這樣的文章可能對(duì)大眾很有吸引力，但對(duì)于人工智能學(xué)了好幾年的我來(lái)說(shuō)，倒不認(rèn)為是什么值得大驚小怪的事情，況且ChatGPT我也是經(jīng)常在用的，它能力怎么樣我還是很清楚的。但最近一個(gè)偶然的機(jī)會(huì)得到了這篇論文，那還是要讀一讀。

整篇論文其實(shí)也并不長(zhǎng)，我也沒(méi)太多想扯的，此篇專(zhuān)欄就寫(xiě)的短一點(diǎn)。

1.心智

其實(shí)我覺(jué)得，這篇論文的關(guān)注點(diǎn)其實(shí)不應(yīng)該只在心智（mind）上，更應(yīng)該在自發(fā)（Spontaneously）上。不過(guò)還是要先談心智。

這篇論文研究的心智是基于心智理論（這個(gè)翻譯可能有些問(wèn)題，原文是theory of mind，最好不要把它當(dāng)成一個(gè)理論而是一種能力，可能更好理解一些），它主要包括的是使得人類(lèi)智力超越其他物種的核心能力，換句話說(shuō)，只要一個(gè)模型具有這些核心能力，我們似乎就能證明它擁有智能。

可能大家會(huì)想到圖靈測(cè)試，不過(guò)當(dāng)前圖靈測(cè)試都快被玩爛了，很多模型發(fā)布似乎都要宣稱下自己的模型通過(guò)了圖靈測(cè)試，這其實(shí)也表明圖靈測(cè)試其實(shí)并不是那么難的測(cè)試，還有中文屋甚至是哥德?tīng)柌煌陚湫远ɡ磉@樣的大殺器擋在AI面前呢。不過(guò)GPT-3.5和ChatGPT在心智理論指導(dǎo)下的測(cè)試中表現(xiàn)得出奇的好，那么問(wèn)題似乎就有些嚴(yán)重了。

更麻煩的是，沒(méi)有跡象表明模型的上限就在這里，之后的更大參數(shù)和更優(yōu)化策略的模型可能會(huì)在測(cè)試中取得更好的表現(xiàn)。

2.自發(fā)的心智

自發(fā)的第一重意思很容易理解，ChatGPT是端到端的大模型，是不借助于外部知識(shí)庫(kù)的，它回答你的問(wèn)題的方法只是從一大堆數(shù)字中生成一個(gè)答案出來(lái)，這層意義上，它是自發(fā)地回答你的問(wèn)題的，如果這個(gè)回答背后有心智，那產(chǎn)生心智的地方就沒(méi)有其他任何地方（例如不在某一個(gè)數(shù)據(jù)庫(kù)中），只能在模型內(nèi)部，在那一堆按某個(gè)結(jié)構(gòu)組合起來(lái)的數(shù)字中。

自發(fā)的第二重意思是論文中主要觀點(diǎn)的意思，即這個(gè)心智并不是我們?nèi)ピO(shè)計(jì)給模型的，心智的出現(xiàn)僅僅是模型的一個(gè)副產(chǎn)物而已。ChatGPT可能就是這樣的一款模型。

并且，不僅僅是心智理論，其他的很多能力都可能是模型的副產(chǎn)物，對(duì)于大語(yǔ)言模型來(lái)說(shuō)，這可能意味著“世界知識(shí)”這類(lèi)高階技能。

3.回到人的智能

這個(gè)話題好像我還挺少的在專(zhuān)欄中提過(guò)的，但是在“智能科學(xué)導(dǎo)論”課上可以說(shuō)是很重要的全局認(rèn)知了：我們研究人工智能最終是為了更好地了解人類(lèi)智能。我們研究大腦并仿照人的大腦設(shè)計(jì)了神經(jīng)網(wǎng)絡(luò)是為了探索人類(lèi)智能的產(chǎn)生方式（這么看來(lái)，最早的神經(jīng)網(wǎng)絡(luò)是“多層感知機(jī)”，是希望模仿人的感知；而現(xiàn)在的大模型可能已經(jīng)存在“智能”，確實(shí)可能只是因?yàn)閰?shù)量堆得不夠而已），我們研究人的邏輯也是為了研究人的思維

這篇文章也進(jìn)行了相關(guān)的說(shuō)明，即從ChatGPT的表現(xiàn)來(lái)看，心智的出現(xiàn)可能只是人類(lèi)語(yǔ)言能力增強(qiáng)的一個(gè)副產(chǎn)物，或者說(shuō)人類(lèi)的智能并沒(méi)有那么神秘，只不過(guò)是堆硬件堆出來(lái)的罷了。

不知道大家看到這個(gè)結(jié)論會(huì)有什么思考，我個(gè)人由于這類(lèi)問(wèn)題思考的過(guò)多（學(xué)習(xí)智能科學(xué)導(dǎo)論要思考這類(lèi)問(wèn)題，學(xué)習(xí)哲學(xué)也要思考這類(lèi)問(wèn)題）都有點(diǎn)麻木了。

當(dāng)然，再補(bǔ)充一下，這篇論文畢竟只是一篇研究罷了，文中提到的學(xué)說(shuō)還需要進(jìn)一步驗(yàn)證。

4.結(jié)語(yǔ)

我們知道，ChatGPT之所以是一個(gè)優(yōu)秀的對(duì)話系統(tǒng)是因?yàn)樗隽恕昂腿祟?lèi)對(duì)齊”的步驟，或者說(shuō)我們成功地從GPT-3.5中引出了ChatGPT擁有的能力?，F(xiàn)在一般也認(rèn)為大語(yǔ)言模型中存在著很多能力，只不過(guò)都需要某種程度上的激活而已，ChatGPT的成功可能只是找到了激活能力的一把鑰匙而已，要更好的激活其他能力可能需要不同的鑰匙（好中二啊你）。

補(bǔ)充：本篇的實(shí)驗(yàn)設(shè)計(jì)的很有意思，這些實(shí)驗(yàn)讓我回想起當(dāng)初學(xué)知識(shí)論看過(guò)的論文，真的是太相似了（勾起了腦子被JTB理論和葛梯爾問(wèn)題打成結(jié)的回憶），這篇有興趣的朋友真的可以去看一看。