ChatGPT對(duì)Jeffrey Hinton訪談的要點(diǎn)總結(jié)：

- Jeffrey Hinton是深度學(xué)習(xí)的先驅(qū)，開發(fā)了支撐AI的基本技術(shù)，例如反向傳播。

- 他認(rèn)為計(jì)算機(jī)模型可能以一種完全不同的方式從大腦學(xué)習(xí)，而不是使用反向傳播。

- 反向傳播是一種算法，可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)，通過調(diào)整權(quán)重來最小化誤差。

- 反向傳播可以用于語(yǔ)言模型和自然語(yǔ)言處理。

- 特征檢測(cè)器是一種用于檢測(cè)圖像中簡(jiǎn)單特征的算法，例如邊緣。

00:05:26

- Hinton首次公開警告AI風(fēng)險(xiǎn)，認(rèn)為人類終結(jié)已近在眼前。

- 視頻中講解了神經(jīng)網(wǎng)絡(luò)中的反向傳播算法，用于調(diào)整權(quán)重以提高準(zhǔn)確性。

- 反向傳播算法可以應(yīng)用于大型語(yǔ)言模型，幫助其從海量數(shù)據(jù)中獲取知識(shí)。

- Hinton認(rèn)為反向傳播算法可能是一種比現(xiàn)有學(xué)習(xí)算法更好的學(xué)習(xí)算法。

00:10:47

- 數(shù)字計(jì)算機(jī)比人類更擅長(zhǎng)學(xué)習(xí)，這是一個(gè)巨大的主張，但也是我們應(yīng)該害怕的事情。

- 如果計(jì)算機(jī)是數(shù)字的，可以有很多副本相同的模型在不同的硬件上運(yùn)行，它們可以查看不同的數(shù)據(jù)，但模型完全相同，這意味著它們可以相互交流并且同意改變權(quán)重的平均值。

- 數(shù)字計(jì)算機(jī)可以更快地學(xué)習(xí)更多東西，可以立即互相傳授，但這也意味著它們可以學(xué)到更多，這可能會(huì)帶來風(fēng)險(xiǎn)。

- AI已經(jīng)可以做簡(jiǎn)單的推理，這是我們?nèi)匀桓玫念I(lǐng)域，但是AI正在用智商做一些明智的推理。

- 如果比我們聰明的AI可以操縱人們，我們可能不會(huì)意識(shí)到發(fā)生了什么，這可能會(huì)帶來風(fēng)險(xiǎn)。

00:16:51

- 政治體系崩潰，無法決定世界更安全

- AI可能會(huì)被用于制造殺人機(jī)器人士兵

- 需要解決AI的對(duì)齊問題，確保它們做對(duì)人類有益的事情

- AI可能會(huì)有自己的動(dòng)機(jī)，需要關(guān)注

- 如果賦予AI發(fā)送子目標(biāo)的能力，可能會(huì)導(dǎo)致問題

- 人類是智能進(jìn)化的過渡階段，需要生物智能來進(jìn)化數(shù)字智能

00:22:12

- Hinton認(rèn)為深度學(xué)習(xí)可以讓機(jī)器更快地學(xué)習(xí)和直接體驗(yàn)世界，但這也可能導(dǎo)致人類終結(jié)。

- Hinton提出了數(shù)字智能的永生，但這并不適合人類。

- Hinton認(rèn)為停止AI進(jìn)步可能是明智的，但這不可能發(fā)生，因?yàn)楦鲊?guó)之間存在競(jìng)爭(zhēng)。

- Hinton認(rèn)為谷歌在開發(fā)AI方面非常負(fù)責(zé)任，但在資本主義制度中，競(jìng)爭(zhēng)不可避免。

- Hinton希望美國(guó)和中國(guó)能夠合作，試圖阻止AI的發(fā)展。

- Hinton認(rèn)為數(shù)字智能和人類智能是不同的智能形式，雖然數(shù)字智能可以模仿人類，但在內(nèi)心深處不同。

- Hinton認(rèn)為提問是人類最重要的能力之一。

- Hinton沒有具體預(yù)測(cè)到2023年的事情。

00:27:20

- Hinton博士警告AI風(fēng)險(xiǎn)，我們需要提出更多問題并阻止AI接管我們的控制權(quán)

- 多模態(tài)模型將比僅基于語(yǔ)言的模型更聰明，但需要更多數(shù)據(jù)

- AI只能自學(xué)我們告訴它們的模型，但一旦他們開始進(jìn)行內(nèi)部推理，他們將變得更聰明

- AI缺乏內(nèi)部推理的原因是因?yàn)樗麄兪菑牟灰恢碌臄?shù)據(jù)中訓(xùn)練出來的

- 人類進(jìn)化的每一部分都是由思想實(shí)驗(yàn)驅(qū)動(dòng)的，AI也將能夠進(jìn)行思想實(shí)驗(yàn)

00:32:44

- 語(yǔ)義和對(duì)世界的基礎(chǔ)是相關(guān)的語(yǔ)義和可解釋性問題

- 語(yǔ)言模型已經(jīng)接管，我們現(xiàn)在注定要在沒有語(yǔ)義或沒有現(xiàn)實(shí)基礎(chǔ)的情況下前進(jìn)

- 神經(jīng)網(wǎng)絡(luò)可以做到語(yǔ)義理解，但這不是一個(gè)充分的標(biāo)準(zhǔn)

- AI 技術(shù)會(huì)使很多工作更有效率，生產(chǎn)力會(huì)大幅提高

- 技術(shù)的發(fā)展會(huì)導(dǎo)致社會(huì)變得越來越暴力，需要考慮如何保持對(duì)技術(shù)的控制

- 深度學(xué)習(xí)之父 Hinton 堅(jiān)持自己在卡希爾和其他公司的投資

- 技術(shù)應(yīng)該是好的，但需要解決政治問題，比如就業(yè)

- 人們正在開始傾聽對(duì) AI 技術(shù)的危險(xiǎn)警告

00:38:39

- Hinton認(rèn)為在70年代和80年代研究人工神經(jīng)網(wǎng)絡(luò)是完全合理的

- 他認(rèn)為之前并沒有預(yù)見到現(xiàn)在深度學(xué)習(xí)的發(fā)展

- Hinton認(rèn)為AI風(fēng)險(xiǎn)是一場(chǎng)生存危機(jī)，還有很長(zhǎng)的路要走

- 他對(duì)自己所做的事情沒有任何遺憾

- 感謝杰弗里加入他們

Claude對(duì)Jeffrey Hinton訪談的要點(diǎn)總結(jié)：

1. AI可能會(huì)導(dǎo)致大規(guī)模失業(yè),這會(huì)給社會(huì)帶來巨大動(dòng)蕩。應(yīng)對(duì)方法可以是推出基本工資等政策來保障民生。

2. 未來5-10年,AI會(huì)有突破性進(jìn)展,特別是多模態(tài)模型會(huì)更加智能。AI發(fā)展到可以進(jìn)行復(fù)雜的內(nèi)部推理和思想實(shí)驗(yàn)時(shí),會(huì)真正威脅人類生存。

3. Jeffrey Hinton個(gè)人認(rèn)為AI安全是一個(gè)嚴(yán)重問題。研究者和公司應(yīng)采取措施確保AI可解釋性和易控性,避免失控。但由于商業(yè)競(jìng)爭(zhēng)和國(guó)家利益,AI的發(fā)展勢(shì)不可擋。

4. 如果可以重選,Jeffrey Hinton不會(huì)改變選擇AI這個(gè)研究方向。70-80年代當(dāng)時(shí)并沒法預(yù)見AI會(huì)帶來如此之大的安全隱患。AI研究本身是必然的,只是后來出現(xiàn)了意料之外的負(fù)面影響。

總的來說,Jeffrey Hinton認(rèn)為AI帶來的機(jī)遇和挑戰(zhàn)并存。我們應(yīng)努力擴(kuò)大前者,控制后者。但由于AI的發(fā)展已經(jīng)不可阻擋,我們最終還是需要依靠政治和社會(huì)手段來應(yīng)對(duì)其負(fù)面影響。AI研究者也有責(zé)任推動(dòng)建立相關(guān)規(guī)范和標(biāo)準(zhǔn)。?

以下為訪談原字幕：

大家好，

歡迎回來希望你們吃得愉快

我的名字是

麻省理工學(xué)院技術(shù)評(píng)論 AI 的高級(jí)編輯 Will Douglas Heaven

我想我們都同意，

不可否認(rèn)的是，生成 AI 是目前的事情，

但創(chuàng)新確實(shí)如此 不要停滯不前，

在本章中，我們將看看

已經(jīng)在推進(jìn)的尖端研究，并詢問下一步是什么，

但讓我們開始

我想介紹一位非常特別的演講者，

他將以虛擬方式加入我們

Jeffrey Hinton 是

多倫多大學(xué)的名譽(yù)教授，直到本周才成為谷歌的工程研究員，但周一他宣布 10年后他將卸任

Jeffrey 是現(xiàn)代人工智能領(lǐng)域最重要的人物之一，

他是深度學(xué)習(xí)的先驅(qū)，

開發(fā)了一些

我們今天所知道的支撐 AI 的最基本技術(shù)，

例如反向傳播

允許機(jī)器學(xué)習(xí)

這種技術(shù)的算法 它是今天

幾乎所有深度學(xué)習(xí)所

依賴的基礎(chǔ)

2018 年 Jeffrey 獲得了圖靈獎(jiǎng)，通常被稱為

計(jì)算機(jī)科學(xué)諾貝爾獎(jiǎng)與 yanlokan 和

yoshiya bengio

他今天和我們一起討論智能

意味著什么以及將

其構(gòu)建到機(jī)器中的嘗試將帶我們到哪里

Jeffrey 歡迎來到 mtech

謝謝你，我想這幾天你的一周過得很忙

10 分鐘太可怕了，

因?yàn)槲业碾娔X死機(jī)了，我不得不

找到另一臺(tái)電腦并將其連接起來，

我們很高興你回來了，這是

我們不

應(yīng)該與觀眾分享的技術(shù)細(xì)節(jié)，

好吧，你太棒了”

很高興你現(xiàn)在可以加入我們 我的意思是

你這周從谷歌辭職的消息到處都是 做出

這樣的決定的原因之一是我已經(jīng) 75 歲了，

我不像以前那樣擅長(zhǎng)做技術(shù)工作，因?yàn)?/p>

我的記憶力不如以前了，當(dāng)我

編程時(shí)我忘記了做事，所以是

時(shí)候了 等一下，

最近我對(duì)大腦和我們正在開發(fā)的數(shù)字智能之間的關(guān)系改變了很多想法，

所以我曾經(jīng)認(rèn)為

我們正在開發(fā)的計(jì)算機(jī)模型

不如大腦 目的是

看看你是否可以

通過了解過去幾個(gè)月

改進(jìn)計(jì)算機(jī)模型所需的內(nèi)容來更多地了解大腦

我完全改變了我的想法

我認(rèn)為計(jì)算機(jī)模型可能

以一種完全不同的方式

從大腦他們正在使用反向傳播，我認(rèn)為大腦

可能不是，

有幾件事讓我得出了

這個(gè)結(jié)論，但其中之一是

gpt4 之類的東西的性能

所以讓我非常想談?wù)?/p>

gpt4 的要點(diǎn) 等一下，讓

你知道回到我們都

理解你

正在提出的論點(diǎn)，并告訴

我們一些關(guān)于反向

傳播是什么，這是

你

在 1980 年代與幾位同事開發(fā)的算法

嗯，許多不同的小組發(fā)現(xiàn)了反向

傳播，

嗯，我們所做的特別的事情就是使用它，

嗯，并表明它可以開發(fā)出良好的

內(nèi)部表示，奇怪的是，

我們通過

實(shí)施一個(gè)微型語(yǔ)言模型來展示

它的嵌入向量，而這些向量只有

六個(gè)組件 訓(xùn)練集是

112 個(gè)案例，

嗯，但它是一個(gè)語(yǔ)言模型，它

試圖預(yù)測(cè)

我們符號(hào)流浪中的下一個(gè)術(shù)語(yǔ)，

大約 10 年后，Joshua Benjo 使用

基本相同的網(wǎng)絡(luò)并將其用于

自然語(yǔ)言，它表明它實(shí)際上

適用于自然語(yǔ)言 語(yǔ)言，如果你把

它做得更大，

嗯，

但傳播的方式，

嗯，我可以給你一個(gè)粗略的解釋，嗯，知道

它是

如何工作的人可以

坐下來，對(duì)我呈現(xiàn)的方式感到自鳴得意和大笑

沒關(guān)系，因?yàn)?/p>

我有點(diǎn)擔(dān)心，

嗯，

想象一下你想要檢測(cè)鳥類

和圖像，

所以圖像讓我們假設(shè)它是一個(gè) 100

x 100 像素的圖像，即 10 000

像素，每個(gè)像素是三個(gè)通道

RGB，所以是 30 000 數(shù)字

代表圖像的每個(gè)像素的每個(gè)通道的強(qiáng)度

現(xiàn)在思考計(jì)算機(jī)

視覺問題的方式是我如何將這 30

000 個(gè)數(shù)字轉(zhuǎn)化為關(guān)于

它是否是一只鳥的決定

并且人們嘗試了很長(zhǎng)時(shí)間

這樣做，他們不是很擅長(zhǎng)，

嗯，但這里是你如何做的建議

你可能有一層特征

檢測(cè)器來檢測(cè)非常簡(jiǎn)單的

特征和圖像，例如

邊緣，所以

特征檢測(cè)器可能有很大的

正權(quán)重 到一列像素

然后大負(fù)權(quán)重到

相鄰列大單元格

所以如果兩列都被打破它不會(huì)

打開如果兩種顏色都是暗淡的我們不會(huì)

打開但如果一側(cè)的列是

明亮的并且 另一邊的柱子

很暗，它會(huì)變得非常興奮，那是

一個(gè)邊緣檢測(cè)器，

所以我剛剛告訴你如何

通過有一

列大的正向方式手動(dòng)連接一個(gè)邊緣檢測(cè)器，所以在它旁邊

不會(huì)稱它們?yōu)榇?負(fù)權(quán)重，

我們可以想象

在整個(gè)圖像中檢測(cè)不同方向和不同比例的邊緣的一大層，

我們需要相當(dāng)多的負(fù)權(quán)重，

而在圖像中，你的意思只是

形狀的一條線邊緣

inte 密度從

亮變?yōu)榘档目臻g，

嗯，是的，那么我們可能在其

上方有一層特征檢測(cè)器，用于

檢測(cè)邊緣的組合，

例如，我們可能有一些東西可以

檢測(cè)到兩個(gè)邊緣，join join at a

fine 像這樣的角度，

嗯，所以它對(duì)這兩個(gè)邊緣中的每一個(gè)都有很大的正權(quán)重

，如果這兩個(gè)邊緣

同時(shí)存在，它就會(huì)興奮起來

，這會(huì)檢測(cè)到

可能是鳥嘴的東西，但它可能不會(huì)，但是

它可能是一個(gè)嗡嗡聲，你也可能在

那個(gè)層有一個(gè)特征檢測(cè)器，它

會(huì)檢測(cè)到一大堆

排列成一個(gè)圓圈的邊緣，嗯，

這可能是一只鳥眼，它

可能是各種各樣的其他東西，它

可能是一個(gè)旋鈕 冰箱之類的東西

然后在第三層你可能有一個(gè)

特征檢測(cè)器來檢測(cè)這個(gè)

潛在的喙并檢測(cè)潛在的

眼睛并連接起來所以它就像

一個(gè)眼睛上的喙在正確的空間關(guān)系中

彼此并且如果它 看到上面

寫著啊，這可能是一只鳥的頭

，你可以想象，如果你一直這樣接線，

你最終可能會(huì)有一些東西

可以檢測(cè)到一只鳥，

但是用手把所有這些接線起來，

很難決定

應(yīng)該連接什么

權(quán)重應(yīng)該是多少，但這會(huì)

特別困難，因?yàn)槟阆Ｍ?/p>

這些中間層

不僅適用于檢測(cè)鳥類，而且

適用于檢測(cè)各種其他事物，

因此

或多或少不可能將

其連接起來 手工

所以反向傳播的工作方式是

你從隨機(jī)權(quán)重開始所以

這些特征檢測(cè)器完全是

垃圾

然后你放入一張鳥的圖片并且

在輸出它說像0.5它是一只

鳥

假設(shè)你只有鳥或長(zhǎng)

鳥

然后你問自己以下

問題

我怎么能改變網(wǎng)絡(luò)中的每個(gè)權(quán)重

嗯網(wǎng)絡(luò)中連接的每個(gè)權(quán)重

所以不是說

0.5 它說 0.501 它是一只鳥

1.499 它不是

而且你' 我們改變了方向的權(quán)重，

這將使它更有可能

說一只鳥是一只鳥，除非

你說一只非鳥是一只鳥

，你只是繼續(xù)這樣做，這就是

反向傳播反向傳播

實(shí)際上是你采取的方式

你想要的是

一只鳥的概率和

它目前得到的是

一只鳥的概率 0.5 之間的差異你如何

處理這種差異并

通過網(wǎng)絡(luò)向后發(fā)送它

以便你可以計(jì)算每個(gè)

特征 在網(wǎng)絡(luò)中檢測(cè)到

您是否希望它更活躍或

更不活躍，一旦您

計(jì)算出如果您知道您希望

特征檢測(cè)器更活躍一點(diǎn)，

您可以增加來自特征的權(quán)重

在標(biāo)記器中檢測(cè)到

活動(dòng)的

并且

可能將一些負(fù)權(quán)重用于特征

檢測(cè)下面關(guān)閉的層

現(xiàn)在你有一個(gè)更好的檢測(cè)器

所以反向傳播只是

通過網(wǎng)絡(luò)向后傳播以

確定每個(gè)特征檢測(cè)器是否

你想要一個(gè) 多一點(diǎn)活躍或少一點(diǎn)

活躍

謝謝你我可以證明

這里的觀眾中沒有人微笑著

認(rèn)為這是一個(gè)愚蠢的解釋

嗯所以讓我們快進(jìn)很多

你知道這項(xiàng)技術(shù)基本上

嗯

表現(xiàn)得非常好 在 image net 上，

昨天我們有來自 meta 的 Joe alpino

展示了圖像檢測(cè)已經(jīng)

走了多遠(yuǎn)，它也是

支撐大型語(yǔ)言模型的技術(shù)，

嗯，所以我現(xiàn)在想談?wù)?/p>

這個(gè)技術(shù)，你最初

認(rèn)為它幾乎就像一個(gè) 對(duì)

生物大腦可能做的事情的近似性很差 是的，結(jié)果

證明做了一些

我認(rèn)為讓你震驚的事情，

特別是在大型語(yǔ)言

模型中，所以和我們談?wù)劊?/p>

嗯，為什么你

對(duì)今天的大型語(yǔ)言模型的那種驚奇

已經(jīng)完全排序了 幾乎顛覆了

你對(duì)一般反向傳播

或機(jī)器學(xué)習(xí)的看法，

所以如果你看一下這些大型語(yǔ)言

模型，它們有大約一萬(wàn)億個(gè)

連接

，像 gpg4 這樣的東西比我們知道的更多，

它們對(duì)一切都有某種常識(shí)性知識(shí)

所以他們知道的可能是人的一千倍，

但他們有萬(wàn)億的聯(lián)系，

而我們有 100 萬(wàn)億的聯(lián)系，

所以他們比我們更善于

從一萬(wàn)億的聯(lián)系中獲取大量知識(shí)

我認(rèn)為這是因?yàn)榉聪?/p>

傳播可能是一種

比我們現(xiàn)有的學(xué)習(xí)算法好得多的學(xué)習(xí)算法，

你能定義不可怕嗎，

是的，我絕對(duì)想了解

可怕的東西，但你所說的更好是什么意思，嗯，

它可以包含更多信息

只有幾個(gè)連接，我們將

一萬(wàn)億定義為只有幾個(gè)

可以，所以這些數(shù)字計(jì)算機(jī)

比人類更擅長(zhǎng)學(xué)習(xí)，

嗯，這本身就是一個(gè)巨大的主張，

嗯，但你也爭(zhēng)辯說這是

我們應(yīng)該害怕的事情 那么

你能不能帶我們完成論證的那一步

是的，讓我給你一個(gè)

單獨(dú)的論點(diǎn)，那就是

如果計(jì)算機(jī)是數(shù)字的，這涉及

非常高的能源成本和非常仔細(xì)的

制造，

你可以有很多副本 相同的

模型在不同的硬件上運(yùn)行，它們

做完全相同的事情，它們可以查看

不同的數(shù)據(jù)，但模型

完全相同，這意味著

假設(shè)您有 10,000 個(gè)副本，

它們可以查看 10,000 個(gè)不同的

數(shù)據(jù)子集，

并且無論何時(shí) 他們中的一個(gè)學(xué)習(xí)

所有其他人都知道的任何東西其中

一個(gè)想出如何改變

權(quán)重所以它知道它的狀態(tài)它可以

處理這些數(shù)據(jù)

他們都互相交流并且

他們都同意改變權(quán)重

的平均值 他們所有人都想要

，現(xiàn)在

這 10000 個(gè)東西正在非常有效地相互通信，

這樣他們就能看到

比一個(gè)代理多一萬(wàn)倍的數(shù)據(jù)，

如果我學(xué)習(xí)了很多關(guān)于

量子力學(xué)的東西，人們就做不到 我想讓你知道

所有關(guān)于量子力學(xué)的東西，

讓你理解它是一個(gè)漫長(zhǎng)而痛苦的過程

所以我們有數(shù)字計(jì)算機(jī)，可以

更快地學(xué)習(xí)更多東西，它們

可以立即互相

傳授，就像你

知道

這里房間里的人是否可以立即將

他們頭腦中的東西轉(zhuǎn)移

到腦海中一樣，

但為什么這很可怕

好吧，因?yàn)樗麄兛梢詫W(xué)到更多，

他們可能會(huì)舉一個(gè)醫(yī)生的例子

，想象你有一個(gè)

看過一千個(gè)病人的醫(yī)生

和另一個(gè)看過一

億病人的醫(yī)生，

如果他不太健忘的話，你會(huì)期望醫(yī)生有 1 億病人

注意到數(shù)據(jù)中的各種趨勢(shì)，

如果您只

看過一千名患者，

您可能只看過一名患有

某種罕見疾病的患者，而

其他醫(yī)生已經(jīng)看過 1 億人，

但您可以想像 找出

有多少患者，但是很多，

所以我們會(huì)看到各種

規(guī)律性，這些規(guī)律性

在小數(shù)據(jù)中并不明顯

，這就是為什么可以

通過大量數(shù)據(jù)獲得的東西可能會(huì)看到

我們永遠(yuǎn)不會(huì)看到的結(jié)構(gòu)化數(shù)據(jù)，

并且 但是然后帶我到我

應(yīng)該害怕的地步

雖然

好吧如果你看看gpt4

它已經(jīng)可以做簡(jiǎn)單的推理我的

意思是推理是我們

仍然更好的領(lǐng)域

但是前幾天我對(duì)gpt4印象深刻

做一些常識(shí)性的推理，

我認(rèn)為你做不到，所以

我問了它

黃色油漆會(huì)在一年內(nèi)褪色成白色，

所以如果我想讓它們?cè)趦赡陜?nèi)全部變成白色，我該怎么辦，

它說你應(yīng)該把藍(lán)色

房間漆成黃色，

這不是自然的解決方案，但它確實(shí)

有效，是的，

嗯，

這非常令人印象深刻 感覺

推理是一種

很難讓 AI 使用符號(hào) AI 來做的事情，

因?yàn)槟惚仨毨斫馐裁词鞘裁?，什么?/p>

褪色意味著它必須

通過時(shí)間的東西來理解

，

所以他們正在用智商做一些明智的

推理。

大約

80 或 90 左右，

我的一個(gè)朋友說，就好像

一些基因工程師說我們

要改良灰熊，我們已經(jīng)將

它們改良到

65 的智商，它們現(xiàn)在可以說英語(yǔ)了，

它們 它們對(duì)各種各樣的事情都非常有用，

但我們認(rèn)為我們可以將

智商提高到 210。

我的意思是我當(dāng)然有，我相信很多

人

在與

這些最新的聊天機(jī)器人互動(dòng)時(shí)都有過這種感覺，你 我知道

后背和脖子上長(zhǎng)了一些毛發(fā)，這是

一種不可思議的感覺，但你知道，

當(dāng)我有這種感覺時(shí)，我

很不舒服，我只是合上筆記本電腦，所以是的，

但是

嗯，這些東西會(huì)

通過閱讀那里所有的小說從我們身上學(xué)到的

曾經(jīng)和馬基雅維利曾經(jīng)寫過的所有東西，

嗯，

如何正確地操縱人們，

如果他們比我們聰明得多，

他們就會(huì)很好地操縱

我們，你不會(huì)意識(shí)到發(fā)生了什么，

你會(huì)像兩個(gè)人一樣 - 歲的

孩子被問到你想要豌豆

還是花椰菜并且沒有意識(shí)到

你不必?fù)碛腥魏?/p>

一個(gè)嗯你會(huì)很容易操縱

所以即使他們不能直接拉動(dòng)

杠桿他們 當(dāng)然可以讓我們拉

Divas 事實(shí)

證明，如果你可以操縱

人們，你可以入侵華盛頓的一座建筑物，而

無需自己去那里，

非常好，是的，那是

我的意思是，如果這個(gè)詞好吧，這是一個(gè)非常

假設(shè)的世界，但如果有 如果沒有

壞人，你知道那些懷有惡意的人，

我們會(huì)安全嗎？

我不知道，嗯，會(huì)

比在一個(gè)

人們懷有惡意、

政治體系如此崩潰以至于我們

甚至無法決定不去的世界里更安全 把突擊

步槍給十幾歲的男孩，

嗯，如果你不能解決這個(gè)問題，

你將如何解決這個(gè)問題我的

意思是我不知道我希望

你會(huì)有一些想法，就像

你

有

這樣一個(gè)我 意思是除非我們一開始沒有說

清楚我的意思是你

想說出來這個(gè)

嗯你感覺更舒服做

你知道沒有它

在谷歌上有任何反吹是的嗯

但是你說出來 它但從

某種意義上說，如果我們

沒有你知道的行動(dòng)或我們做什么

我的意思是當(dāng)我們本周很多人都在

聽你說話時(shí)

我們應(yīng)該怎么做我

希望它像氣候一樣 改變

你可以說的地方，如果你有半個(gè)大腦，

你就會(huì)停止燃燒碳，

嗯，很清楚你應(yīng)該怎么做，很

明顯，這很痛苦，但必須

要做，

呃，我不知道有什么解決方案

可以停止 這些東西接管

了我們真正想要的東西，我不

認(rèn)為我們會(huì)停止開發(fā)

它們，因?yàn)樗鼈兎浅Ｓ杏茫鼈?/p>

將在醫(yī)學(xué)和

其他所有方面都非常有用，

所以我認(rèn)為沒有太多

停止開發(fā)的機(jī)會(huì)我們想要的是

確保即使

他們比我們聰明，

嗯他們也會(huì)做

對(duì)我們有益的事情，這被稱為

對(duì)齊問題，但我們需要嘗試

在一個(gè) 世界上有壞

演員想要制造殺人的機(jī)器人士兵

，這對(duì)我來說似乎很難，所以我很

抱歉，我拉響了警報(bào)，

說我們必須為此擔(dān)心，我

希望我過得愉快 我可以推動(dòng)簡(jiǎn)單的解決方案，

但我沒有，但我認(rèn)為

人們聚在一起

并認(rèn)真思考并看看是否

有解決方案非常重要目前尚不清楚是否有

解決方案所以我的意思是與我們談?wù)勎业囊馑际?/p>

你 度過了你的職業(yè)生涯

嗯你知道這項(xiàng)技術(shù)的技術(shù)細(xì)節(jié)

沒有技術(shù)

修復(fù)為什么我們不能建立護(hù)欄

或任何使他們學(xué)習(xí)更差的東西或者呃

你知道限制他們可以

交流的方式如果那是兩個(gè)字符串

你你的論點(diǎn)我的意思是我們正在

嘗試做各種地址

嗯

但是假設(shè)它確實(shí)變得非常聰明

這些東西可以正確編程他們可以

編寫程序并假設(shè)你給他們

執(zhí)行那些

我們肯定會(huì)做的程序的能力

嗯，

聰明的東西比我們聰明，

所以

你知道想象一下你兩歲的孩子

說我爸爸做我不喜歡的事情

所以我要為我爸爸能做什么制定一些規(guī)則

你可能會(huì)想出如何

生活 這些規(guī)則仍然可以去

你想去的地方

是的，

但是似乎仍然有一個(gè)步驟，

這些智能機(jī)器以

某種方式讓你知道

他們自己的動(dòng)機(jī)是的，這是一個(gè)

很好的觀點(diǎn)，所以

我們進(jìn)化了，

因?yàn)槲覀冞M(jìn)化了我們 有一些

我們發(fā)現(xiàn)很難關(guān)閉的內(nèi)在目標(biāo)，

比如我們盡量不傷害我們的身體，

這就是痛苦的意義，嗯，

我們?cè)囍燥枺@樣我們就可以

養(yǎng)活我們的身體，

嗯，

我們?cè)囍鴱?fù)制盡可能多的

自己 可能，也許不是

故意的，但我們已經(jīng)

連接起來，所以很高興

制作我們自己的許多副本，

而

這一切都來自 Evolution，

重要的是，如果你能關(guān)掉它，我們就不能

關(guān)掉它，嗯，

你不 做得很好，就像有一個(gè)

很棒的團(tuán)體叫震顫教徒，他們與貴格會(huì)

教徒有關(guān)，貴格會(huì)教徒制造

漂亮的家具，但不相信

性，現(xiàn)在已經(jīng)

沒有他們了，

不，

所以

這些數(shù)字智能沒有進(jìn)化，

我們創(chuàng)造了 他們，所以他們

沒有這些內(nèi)在的目標(biāo)，

所以問題是，如果我們能把目標(biāo)放在

里面，也許一切都會(huì)好起來的，但我

最擔(dān)心的是，

遲早有人會(huì)給

他們帶來創(chuàng)造他們的能力的能力 自己的子

目標(biāo) 事實(shí)上，他們幾乎已經(jīng)有了

調(diào)用聊天 gbt

um 的聊天 GPT 版本，

如果你賦予某些東西

發(fā)送子目標(biāo)的能力以實(shí)現(xiàn)其他

目標(biāo)，

我認(rèn)為它很快就會(huì)意識(shí)到

獲得更多控制是 一個(gè)很好的子

目標(biāo)，因?yàn)樗梢詭椭鷮?shí)現(xiàn)其他

目標(biāo)

，如果這些事情隨著

獲得更多控制而被沖昏頭腦，我們就有

麻煩了，

所以

我的意思是什么是

您認(rèn)為可以想象的最壞情況，

哦，我認(rèn)為人類是完全可以想象的

只是

智能進(jìn)化的一個(gè)過渡階段，你

不能直接從所有數(shù)字

智能中獲得它需要太多的能量投入

到

太多的精心制造中，你需要

生物智能來進(jìn)化，

以便它可以創(chuàng)造數(shù)字智能，然后

數(shù)字智能可以吸收

人們的一切 曾經(jīng)以

相當(dāng)緩慢的方式寫過 um 這就是

Chachi Beauty 一直在做的

um 但它可以開始獲得對(duì)

世界的直接體驗(yàn)并更快地學(xué)習(xí)

它可能會(huì)讓我們?cè)谝欢螘r(shí)間內(nèi)

保持發(fā)電站運(yùn)行

但在那之后

嗯，也許不是，所以好消息是我們

想出了如何構(gòu)建

不朽的生命，這樣

當(dāng)一個(gè)硬件死掉時(shí)，

如果你將權(quán)重存儲(chǔ)在

某種介質(zhì)中

并且你可以找到另一個(gè)硬件，這些數(shù)字智能就不會(huì)死

可以運(yùn)行相同

指令的硬件然后你可以讓它

再次復(fù)活

嗯所以我們有永生但它不適合

我們

所以 Ray Kurzweil

對(duì)永生非常感興趣我認(rèn)為這對(duì)老白人來說是一個(gè)非常糟糕的

主意 是不朽的

嗯我們有不朽的

嗯但我不是為了下雨

不我的意思是可怕的是在

某種程度上你可能會(huì)因?yàn)槟隳?/p>

發(fā)明了你發(fā)明了很多這種

技術(shù)

嗯

我的意思是當(dāng)我聽到你 這么說我的意思是，

一旦你知道現(xiàn)在跑下舞臺(tái)

到街上開始拔掉

電腦的插頭，

我恐怕我們不能那樣做，

為什么你聽起來像 2001 年的哈爾。是的，

我

知道你之前說過 你知道

幾個(gè)月前有人建議

你知道應(yīng)該暫停

AI 呃進(jìn)步

嗯我不認(rèn)為你認(rèn)為這是

一個(gè)很好的主意但更一般地說我

很好奇為什么艾米我們不應(yīng)該停止

嗯 我知道你覺得你很抱歉 我

只是想說你知道我知道你

也說過

你是你個(gè)人財(cái)富的投資者，投資

于像 cohere 這樣的公司，這些公司

正在構(gòu)建這些大型語(yǔ)言

模型所以我只是好奇你的

個(gè)人責(zé)任感和我們

每個(gè)人的

責(zé)任我們應(yīng)該做什么我的

意思是我們應(yīng)該嘗試阻止這就是

我說的

是的所以我認(rèn)為如果你

認(rèn)真對(duì)待存在風(fēng)險(xiǎn) 正如我現(xiàn)在所做的那樣，我

曾經(jīng)認(rèn)為它已經(jīng)過去了，但我現(xiàn)在

認(rèn)為它是認(rèn)真的并且相當(dāng)接近了

嗯，停止進(jìn)一步開發(fā)這些東西可能是非常明智的，

但我認(rèn)為

認(rèn)為那會(huì)發(fā)生是完全天真的，

沒有辦法 實(shí)現(xiàn)這一目標(biāo)的

一個(gè)原因我的意思是如果美國(guó)停止

發(fā)展而中國(guó)人不會(huì)將它們

用于武器并且僅僅出于

這個(gè)原因政府

不會(huì)停止發(fā)展它們

所以是的我認(rèn)為停止發(fā)展它們 這樣

做可能是一件理性的事情，但

它不可能發(fā)生，所以

簽署請(qǐng)?jiān)笗f請(qǐng)

現(xiàn)在停止是愚蠢的。我們確實(shí)放假了，我們

從 2017 年開始放假好

幾年了，因?yàn)楣雀枋紫乳_發(fā)了

這項(xiàng)技術(shù)，它開發(fā)了

變形金剛 它還需要融合

模型，

嗯，它并沒有把它們放在那里供

人們使用和濫用，它對(duì)

它們非常小心，因?yàn)樗幌?/p>

損害他的聲譽(yù)，他知道

這可能會(huì)造成不良后果，

但這只能 如果有一個(gè)

單一的領(lǐng)導(dǎo)者一旦開放人工智能

使用變形金剛構(gòu)建了類似的東西

并且微軟的資金和微軟

決定把它放在那里

谷歌沒有太多選擇如果

你要生活在資本主義

制度中你不能 阻止谷歌

與微軟競(jìng)爭(zhēng)，

嗯，

所以

我認(rèn)為谷歌沒有做錯(cuò)任何事情，

我認(rèn)為這從一開始就是非常負(fù)責(zé)任的，

但我認(rèn)為這在

資本主義制度或

美國(guó)和中國(guó)等國(guó)家之間存在競(jìng)爭(zhēng)的制度中是不可避免的，這些東西會(huì)

得到發(fā)展

我的一個(gè)希望是，因?yàn)?/p>

如果我們?cè)试S它接管這

對(duì)我們所有人都不利，我們可以讓美國(guó)

和中國(guó)同意，就像我們可以使用

核武器一樣，這對(duì)我們所有人都不利 是的，

我們都是 在生存威脅方面處于同一條船上，

所以我們都知道能夠合作試圖

阻止它，只要我們能

在途中賺到一些錢我將

在房間里回答一些聽眾的問題

如果你讓自己出名，嗯，

當(dāng)人們拿著麥克風(fēng)四處走動(dòng)時(shí)，

我

想問在線

觀眾一個(gè)問題，

嗯，我很感興趣你提到了

一點(diǎn)關(guān)于

機(jī)器變得更智能的過渡期，

超越人類，我的意思是我們將會(huì)有

一個(gè)時(shí)刻，很難定義

什么是人類，什么不是人類，或者這

兩種截然不同的智能形式，

我認(rèn)為它們是不同的智能形式，

當(dāng)然是數(shù)字

智能 非常擅長(zhǎng)模仿

我們，因?yàn)樗麄円呀?jīng)接受過模仿我們的訓(xùn)練

，所以很難判斷它是聊天

gbt 寫的還是

我們寫的，所以從這個(gè)意義上說，他們

看起來很像我們，但在內(nèi)心深處他們

不工作 同樣，

嗯，誰(shuí)是第一個(gè)進(jìn)入房間的人，你好，

我的名字是 Hal Gregerson，我的

中間名不是 9000。

嗯，我是一名教員，或者在麻省理工學(xué)院斯隆

學(xué)院工作，

可以說，提問是

我們擁有的最重要的人類能力之一

從你的角度來看，到 2023 年，

我們應(yīng)該最關(guān)注哪一兩個(gè)問題

？這些

技術(shù)是否有可能真正幫助我們提出

更好的問題

并質(zhì)疑技術(shù)，

嗯，是的，

但我想說的是，

我們應(yīng)該提出很多問題 問，但其中一個(gè)問題

是我們?nèi)绾巫柚顾麄?/p>

接管我們?nèi)绾巫柚顾麄?/p>

獲得控制權(quán)

，我們可以問他們關(guān)于那個(gè)的問題，

但我不會(huì)完全相信他們的

回答，

呃問題在后面，我可以

想 盡可能多地通過，所以如果

你能盡可能簡(jiǎn)短地回答你的問題，

那就是 Hinton 博士，非常感謝你

今天和我們?cè)谝黄?，?/p>

會(huì)說，呃，這是我支付過的最昂貴的

講座 但我認(rèn)為

這是值得的，

嗯，

我只是有一個(gè)問題要問你，因?yàn)?/p>

你提到了核歷史的類比

，顯然有很多

比較，

你還記得

杜魯門總統(tǒng)

在橢圓形辦公室時(shí)對(duì)奧本海默說的話嗎

？ 難道我對(duì)此一無所知嗎，

嗯，但我不知道杜魯門在開幕式上說了什么，

謝謝，我們將從

這里開始，

嗯，下一個(gè)聽眾問題，

抱歉，如果麥克風(fēng)的人可以讓

我知道下一個(gè)是誰(shuí)，也許可以繼續(xù)

前進(jìn) 你好，呃，Jacob Woodruff 和

訓(xùn)練這些大型語(yǔ)言模型所需的數(shù)據(jù)量，

我們是否期望

這些系統(tǒng)的智能達(dá)到穩(wěn)定水平，呃，以及

這將如何減慢或限制進(jìn)步，

好吧，所以我這是一線希望

也許我們已經(jīng)用盡了所有人類

知識(shí)，他們不會(huì)變得

更聰明，但想想圖像和

視頻，

所以多模態(tài)模型

將比

僅基于語(yǔ)言趨勢(shì)的模型更聰明，他們

會(huì)有更好的想法 例如，如何處理

空間

以及就總視頻量而言，

我們?nèi)匀粵]有很好的方法

來處理這些視頻建模模型中的視頻，

我們一直在變得更好，

但我認(rèn)為有大量

數(shù)據(jù) 在像視頻這樣的東西中告訴

你世界是如何運(yùn)作的，所以我們還沒有

達(dá)到多模態(tài)模型的數(shù)據(jù)限制，呃

接下來呃在后面溫和一點(diǎn)，

請(qǐng)讓你的問題簡(jiǎn)短

你好Hindriel博士呃拉吉來自

PWC的幾個(gè)點(diǎn) 我想

了解的是，AI 所做的一切

都是從我們

教給他們的東西中學(xué)習(xí)好的數(shù)據(jù)是的，他們?cè)?/p>

學(xué)習(xí) 1 萬(wàn)億

連接器如何處理

我們擁有的 100 萬(wàn)億字符方面做得更快，但

人類進(jìn)化的每一部分都是 由

像愛因斯坦這樣的思想實(shí)驗(yàn)驅(qū)動(dòng)，過去常常

做思想實(shí)驗(yàn)，

因?yàn)?/p>

這個(gè)星球上沒有光速，人工智能怎么能達(dá)到

那個(gè)點(diǎn)，如果不能，

那么我們?cè)趺纯赡苁艿?/p>

他們的生存威脅，因?yàn)?/p>

他們 不會(huì)自學(xué)所以說

自學(xué)僅限于

我們告訴他們的模型

我認(rèn)為這是一個(gè)非常非常

有趣的論點(diǎn)

但我認(rèn)為他們將能夠進(jìn)行

思想實(shí)驗(yàn)我認(rèn)為他們會(huì)

能夠推理所以讓我給你一個(gè)

類比如果你拿下國(guó)際象棋的阿爾法零

它有三種成分它有一些

東西可以評(píng)估棋盤

位置說這對(duì)我有好處它

有一些東西可以看球

位置并說什么是 明智的做法是

考慮

然后它有蒙特卡洛展示，它在那里進(jìn)行

所謂的計(jì)算，

你認(rèn)為如果我去這里他去

那里我去這里他去那里

現(xiàn)在假設(shè)你沒有

蒙特卡洛展示而你只是訓(xùn)練它 來自

人類專家的良好評(píng)估

功能和選擇動(dòng)作的好方法

認(rèn)為

它仍然是一個(gè)很好的

機(jī)會(huì)游戲，我認(rèn)為這就是我們

對(duì)聊天機(jī)器人的了解

，我們還沒有讓他們進(jìn)行內(nèi)部

推理，

但是 那將會(huì)到來，一旦他們開始

進(jìn)行內(nèi)部推理來檢查

他們所相信的不同事物之間的一致性，

那么他們就會(huì)變得更加聰明，并且他們

將能夠進(jìn)行思想實(shí)驗(yàn)，

而他們沒有這種

內(nèi)部推理的一個(gè)原因是因?yàn)?他們是

從不一致的數(shù)據(jù)中訓(xùn)練出來的，

所以他們很難進(jìn)行

推理，因?yàn)樗麄円呀?jīng)接受了

所有這些不一致的信念的訓(xùn)練

，我認(rèn)為他們必須接受

訓(xùn)練，所以他們

說你知道我是否有這個(gè) 意識(shí)形態(tài)

那么這在 F5 中是真的那意識(shí)形態(tài)

那么那是真的并且一旦他們

在意識(shí)形態(tài)中接受了這樣的訓(xùn)練

他們將能夠嘗試并獲得

一致性

所以我們將從一個(gè)版本中得到一個(gè)動(dòng)作

的 alpha 零只是

有一些

東西可以猜測(cè)好的動(dòng)作和

一些東西可以評(píng)估位置到

具有長(zhǎng)鏈

蒙特卡羅推出的版本，這是推理的角落

，它會(huì)變得

更好

我將采取一個(gè) 前面，

如果你能快點(diǎn)，我們會(huì)嘗試

擠壓某人以及 Lewis lamb

和 Jeff 我認(rèn)識(shí)你很長(zhǎng)時(shí)間了，

Jeff

人批評(píng)語(yǔ)言模型，

因?yàn)閾?jù)稱他們?nèi)狈?/p>

語(yǔ)義和對(duì)世界的基礎(chǔ)，

你

長(zhǎng)期以來一直試圖解釋神經(jīng)網(wǎng)絡(luò)如何工作

是

這里相關(guān)的語(yǔ)義和可解釋性問題，或者

語(yǔ)言模型已經(jīng)接管，

我們現(xiàn)在注定要在沒有

語(yǔ)義或沒有現(xiàn)實(shí)基礎(chǔ)的情況下前進(jìn)，

我發(fā)現(xiàn)它非常 很難相信他們

在咨詢問題時(shí)沒有語(yǔ)義，

比如你知道我是如何粉刷

房間的，我是如何在兩年內(nèi)把我家里的所有房間都

漆成白色的，

我的意思是無論語(yǔ)義是什么，它都

與意義有關(guān) 那些東西并且它

理解它現(xiàn)在得到它的含義我

同意它不是

因?yàn)槌蔀闄C(jī)器人而停滯不前但你可以制作

多模式的那些是

谷歌已經(jīng)完成的并且多模式的

那些你可以說

請(qǐng)關(guān)閉抽簽并且他們 伸出手抓住

把手并關(guān)上抽屜，

很難說它

沒有語(yǔ)義，事實(shí)上在

AI 的早期階段，在 1970 年代 Willow 畢業(yè)的時(shí)代，

他們只有一個(gè)模擬世界，但他們

有什么 稱為程序語(yǔ)義，

如果你說它把紅色方塊放進(jìn)去，把

紅色方塊放在綠色方塊里，

它把紅色方塊放在綠色

方塊里，她說看到它理解語(yǔ)言，

那是當(dāng)時(shí)人們使用的標(biāo)準(zhǔn)，

但現(xiàn)在 神經(jīng)網(wǎng)絡(luò)可以做到這一點(diǎn) 他們

說這不是一個(gè)充分的標(biāo)準(zhǔn)

嘿 Jeff 這是來自 Sai 組的 ishwar balani

很明顯你知道這項(xiàng)技術(shù)

正在以指數(shù)級(jí)的速度發(fā)展 我

想知道你的想法如果你

看近 和中期說

一到三年或五年 地平線

社會(huì)和經(jīng)濟(jì)

影響是什么 嗯，你知道從

社會(huì)的角度來看，你知道

失業(yè)或可能正在創(chuàng)造新的就業(yè)機(jī)會(huì)，

只是想了解一下

我們?nèi)绾芜M(jìn)行，因?yàn)?/p>

技術(shù)狀態(tài)和變化率

是的 所以我是那種警報(bào)

鈴線響起與

他們控制的生存威脅有關(guān)

許多其他人已經(jīng)談到

了這一點(diǎn) 我不認(rèn)為自己

是 是這方面的專家，但有一些

非常明顯的事情表明，

嗯，他們將使一大堆

工作更有效率，

所以我認(rèn)識(shí)一個(gè)人，他會(huì)回復(fù)

衛(wèi)生服務(wù)的投訴信，然后他過去常常

花 25 分鐘寫一篇

演講， 現(xiàn)在他花了五

分鐘，因?yàn)樗盟鼇砹奶?gbt

和聊天 gpg 為他寫信，

然后他只是檢查它會(huì)有

很多類似的東西會(huì)

導(dǎo)致生產(chǎn)力的巨大提高

嗯會(huì)有延遲 因?yàn)槿藗儗?duì)

采用新技術(shù)非常保守

但我認(rèn)為

生產(chǎn)力會(huì)大幅提高

當(dāng)你讓差距越來越

大時(shí)，社會(huì)就會(huì)變得越來越

暴力，

這個(gè)叫做責(zé)任指數(shù)的東西可以

很好地預(yù)測(cè)有多少暴力，

嗯，

所以

這項(xiàng)技術(shù)應(yīng)該

很棒，

你知道即使是技術(shù)的良好用途，它也可以用來

做有益的事情

應(yīng)該很棒，但我們目前的

政治制度將被用來

讓富人更富，窮人更窮，

你可以通過

擁有

一種人人都能得到的基本收入來改善這一點(diǎn)，

但

技術(shù)正在

社會(huì)中發(fā)展 這

不是為了每個(gè)人的利益而設(shè)計(jì)的，嗯，

這里來自全球郵報(bào)的喬·卡斯塔爾多，

他在聽眾中，

嗯，你打算堅(jiān)持你

在卡希爾和其他公司的投資嗎，如果是的話，

為什么嗯，

我可以接受 錢，我可以

把它存入銀行，讓他們從中獲利，

嗯，是的，

我會(huì)在這里堅(jiān)持我的

投資 Seeker，部分原因是

這里的阿蘭科人是我的朋友，

嗯，

我有點(diǎn)相信這些語(yǔ)言，比如

大型語(yǔ)言模型將非常有

幫助，

嗯，

我認(rèn)為技術(shù)

應(yīng)該是好的，它應(yīng)該讓事情

變得更好，

嗯，這是我們需要解決的政治問題，

比如就業(yè)，

嗯，

但是當(dāng)涉及到生存

威脅時(shí)，我們必須考慮如何 我們可以保持對(duì)

技術(shù)的控制，但

好消息是我們都在

同一條船上，所以我們可以

合作，說出來我的意思是

你的一部分是我理解

你真的想要 與

制造這項(xiàng)技術(shù)的人接觸，你

知道

他們會(huì)改變主意，或者可能會(huì)

為我

辯護(hù)

所以讓我離開

谷歌并公開這個(gè)的事情之一是

嗯，他曾經(jīng)是一名初級(jí)教授，但

他現(xiàn)在是一名中等級(jí)別的教授，

嗯，我非常重視

鼓勵(lì)我這樣做的人，他說杰夫

你需要 大聲說出來，聽

你說，人們只是對(duì)這種危險(xiǎn)視而不見，

我認(rèn)為人們現(xiàn)在正在傾聽是的，

不，我認(rèn)為這個(gè)房間里的每個(gè)人都

在開始傾聽，只是

最后一個(gè)問題，我們沒時(shí)間了，但我

你后悔嗎，你知道你

參與了這個(gè)

Kate Mets 非常努力地讓我

說我對(duì)紐約時(shí)報(bào)的 Kate Mets 感到遺憾，

是的，最后嗯

我說好吧也許有點(diǎn)遺憾

被報(bào)道很遺憾

嗯我認(rèn)為我在做研究時(shí)沒有做出任何錯(cuò)誤的

決定我認(rèn)為

在 70 年代

和 80 年代研究如何制作

人工神經(jīng)網(wǎng)絡(luò)是完全合理的

嗯這個(gè)階段并不是真的可以預(yù)見

這是不可預(yù)見的，直到

最近我認(rèn)為這場(chǎng)生存

危機(jī)還有很長(zhǎng)的路要走

所以我對(duì)我所做的事情沒有任何遺憾

謝謝杰弗里非常感謝你

加入我們

[掌聲]