周末聽完了最新一期?Lex?Fridman?和?Sam?Altman?兩個多小時的播客訪談，聊到了很多從?OpenAI?創(chuàng)始人視角，如何看待?AI?和?ChatGPT?未來的。

我整理了?12?條對我來說有啟發(fā)的觀點：

1.?Lex：如何看待?ChatGPT4？
Sam：這是一個很早期的?AI?系統(tǒng)，它很慢，也會有?bug，也不能做特別多的事，但早期的電腦系統(tǒng)也一樣，這不影響它為我們指引出了一條發(fā)展的方向

2.?Lex：維基百科最新的頁面上已經(jīng)有?ChatGPT?了，你是否覺得現(xiàn)在是個巨大的跨越時刻？
Sam：我覺得進(jìn)步是一個持續(xù)的指數(shù)形態(tài)的事情，我們很難說（在指數(shù)曲線上）有什么原來沒有發(fā)生的事情發(fā)生了。無論歷史會挑選我們做的那部分事情，我覺得?ChatGPT?是重要的，原因不在于背后的模型，而是在于可用性

3.關(guān)于模型背后：?
RLHF?（基于人類反饋的強(qiáng)化學(xué)習(xí)）最簡單的理解就是給你兩個輸出，然后問你哪個結(jié)果更好，類似于有個「人類雷達(dá)」。我們現(xiàn)在無法解釋為什么模型在某些方面做得好，某些方面不行，但是我們在慢慢推開迷霧

4.?賭注不大的時候犯錯：
現(xiàn)在有點像是在公開建造一棟大樓，把好的和不好的展現(xiàn)在大家面前，這肯定是不完美的。我們希望在賭注很低的時候犯錯，每一步開始越走越好。

5.?作為工具和杠桿：
（談到編程）短期內(nèi)我所看到最酷的事，就是?ChatGPT?作為工具和杠桿，通過自然語言對話的形式，幫助用戶完成創(chuàng)造類的工作。

6.?關(guān)于?AI?輸出的言論規(guī)范：
雖然很難做到，但是理想的應(yīng)對方法是大家（every?person?onearth）都參與進(jìn)來，組成一個委員會，一起來討論哪些內(nèi)容應(yīng)該成為限制，哪些內(nèi)容可以不用管理，然后形成一套總的體系規(guī)則。

在不同國家和組織可以有不同的規(guī)則。我們在試圖尋找足夠接近這個理想方法的途徑。?

每個人都想要的是，通過一個符合他們所認(rèn)同的世界觀的?RLHF來優(yōu)化這個模型。

7.?Lex：你認(rèn)為?ChatGPT?3.5?到?4?的飛躍歸因于什么？是技術(shù)上的提升嗎？?
Sam：我們在?OpenAI?做的比較好的一件事是找到很多微小的成功，然后把它們相乘，從外界看來發(fā)布?4?只是一件事，但實際上背后有幾百件復(fù)雜的事情。

8.?關(guān)于超級智能：?
任何一個不能顯著增加我們獲得的科學(xué)知識的總和的系統(tǒng)（ChatGPT4），都不是超級智能。

9.?關(guān)于未來的工作：
一部分程序員確實會有對未來的焦慮，但是大部分人都會覺得，我現(xiàn)在有原來十倍的生產(chǎn)力了，已經(jīng)變得離不開這個工具了，很少會有人用過以后說，趕緊把這個東西關(guān)掉吧。

在最理想的世界里，人類是幸福而充實的，可能沒有人會去工作，但是人類還是會想要地位、戲劇等等他們想追求的東西。

10.?慢慢起飛：
Sam：以發(fā)展速度慢到快，和起飛高度低到高，建立一個?2x2?矩陣圖，你理想的世界是在哪個象限里？
Lex：我認(rèn)為是慢速起飛
Sam：我也是這樣想的，最害怕的情況是快速起飛的象限。

11.?Sam?問?Lex?是否應(yīng)該開源：
Lex?思考了一下說不應(yīng)該，Sam?說確實他們在某些場景是不公開的。ChatGPT?這件事如果是?Google?做的，很可能他們不會把?API接口提供出來，大部分公司都不會這樣做?？赡芪覀儧]有人們期望我們那樣開放，但實際上（在開放這件事上）我們已經(jīng)做的很多了。

12.擁有熱愛的工作是一種特權(quán)：
每一次的技術(shù)革新都會讓一部分人失去工作，也會產(chǎn)生一些我們現(xiàn)在想象不到的新工作。

我熱愛我的工作。我認(rèn)為你（Lex）也是。這是真正的特權(quán)。不是每個人都能這么做。

即使人們不喜歡工作，他們也需要工作。法國開始延遲退休是一件很糟糕的事。這個社會對我們應(yīng)該工作更多還是工作更少以及大部分人從工作中獲得了價值還是沒有，有很大的誤解。

這個世界需要一些更有創(chuàng)造力，更有成就感和更讓人幸福的工作。