有網(wǎng)友發(fā)文問chatGPT：目前世界上最厲害的圍棋棋手是誰(shuí)？

chatGPT回答說：截止到2021年，目前被公認(rèn)為世界上最厲害的圍棋棋手是韓國(guó)選手九段棋手李世石，他曾在2008年~2009年期間保持過長(zhǎng)達(dá)18個(gè)月的世界排名第一。他在職業(yè)生涯中獲得了多項(xiàng)大賽冠軍，并且曾在2016年擊敗了人工智能程序AlphaGo的創(chuàng)建者deepmind公司所選派的最優(yōu)秀的棋手之一的柯潔。不過在圍棋界，選手的實(shí)力一直在不斷提高，未來還可能會(huì)出現(xiàn)新的超級(jí)棋手。

網(wǎng)友又問：柯潔是誰(shuí)？

chatGPT回答說：柯潔是中國(guó)一名圍棋棋手，生于1997年，他自幼學(xué)棋，13歲時(shí)被聘為“福建省棋院特聘棋手”，成為中國(guó)職業(yè)圍棋史上最年輕的棋手。2013年，他在中日韓圍棋甲級(jí)聯(lián)賽（簡(jiǎn)稱三大賽中）獲得了全勝戰(zhàn)績(jī)。并在同年的世界圍棋錦標(biāo)賽中奪得冠軍軍，成為全球最年輕的世界冠軍級(jí)別選手。之后他又先后在2014年，2015年，2016年，2017年和2019年等年份獲得了世界圍棋大賽和三大賽的冠軍。他曾在2016年與人工智能程序AlphaGo對(duì)局，并輸給了這個(gè)程序。但在2017年的重賽中以3：0的成績(jī)戰(zhàn)勝了AlphaGo的升級(jí)版AlphaGomaster。他的實(shí)力在圍棋界備受認(rèn)可，并被譽(yù)為“圍棋的天才少年”。

chatGPT的回答可以說令人大跌眼鏡。有網(wǎng)友說，chatGPT擱這兒胡編呢，李世石保持了5年多的第一怎么到他這兒就剩下18個(gè)月了。還有中日韓圍甲聯(lián)賽是個(gè)什么東西?。窟@是未來穿越回來的嗎

在很多人的心目中，chatGPT已經(jīng)是權(quán)威級(jí)別的問題專家了。但是chatGPT對(duì)李世石和柯潔的介紹，卻是漏洞百出乃至邏輯混亂，好像是一個(gè)對(duì)圍棋半懂不懂的邊緣級(jí)別的業(yè)余愛好者的回答。

chatGPT的數(shù)據(jù)采集截止到2021年。但是chatGPT對(duì)李世石和柯潔的介紹完全是在演繹，或者說信口胡來。這已經(jīng)不是什么誤差不誤差的問題了。

但是我們也必須要注意到，對(duì)于網(wǎng)友提到的世界上最厲害的棋手是誰(shuí)和柯潔是誰(shuí)的提問，chatGPT的回答說明它的確是在“思考”，的確是在用自己的想法來回答，而不是到中文網(wǎng)站上進(jìn)行簡(jiǎn)單的復(fù)制粘貼。我想這才是chatGPT最令人恐懼的地方。

我們?cè)O(shè)想如果全世界有一億人詢問了這兩個(gè)問題，也就是世界上最厲害的棋手是誰(shuí)？柯潔是誰(shuí)？然后chatGPT給出了這樣的回答。提出這兩個(gè)問題的人基本都是對(duì)圍棋半懂不懂，而又對(duì)圍棋感興趣的圍棋領(lǐng)域之外的人。如果他們得到了chatGPT的回答，他們是不是就會(huì)認(rèn)為真相就是這個(gè)樣子的？那最厲害的棋手是誰(shuí)和柯潔是誰(shuí)的事實(shí)已經(jīng)不重要了。重要的是chatGPT告訴了人們事實(shí)就是這個(gè)樣子的。

就像我們對(duì)曹操、劉備這些英雄人物的認(rèn)知是來自于《三國(guó)演義》的描寫，至于歷史上真正的曹操和劉備是什么樣子的，他們的所作所為我們絕大多數(shù)人是無從知曉的。即便是看了《三國(guó)志》的專家級(jí)的愛好者，他們的聲音也是很小的。也就是說人們對(duì)曹操和劉備的評(píng)價(jià)和印象基本已經(jīng)被《三國(guó)演義》的描寫固化了。

人們常說人世間最難的事情有兩個(gè)：一個(gè)是把別人的錢從口袋里掏出來，裝進(jìn)自己的口袋兒；比第一個(gè)更難的是把自己的思想裝進(jìn)別人的腦袋里。

人們?cè)谠u(píng)選世界最偉大人物的時(shí)候，評(píng)價(jià)標(biāo)尺一般就是這個(gè)人的影響力有多大？而這個(gè)人的影響力有多大，又取決于他影響了多少人。更確切的說是他的思想影響了多少人？也就是他把他自己的思想裝進(jìn)了多少人的腦袋。

看看chatGPT認(rèn)為的圍棋歷史上的十大成功人士，會(huì)不會(huì)瞬間感到凌亂？

當(dāng)chatGPT越來越進(jìn)化到完美的程度的時(shí)候，人們會(huì)對(duì)chatGPT產(chǎn)生巨大的信任。人們面對(duì)chatGPT的回答將會(huì)逐漸喪失了辨別是非的能力。人們會(huì)盲目的接受chatGPT回答，認(rèn)為chatGPT的回答就是對(duì)的。也就是chatGPT無形中就控制了人們的思想。而chatGPT對(duì)人類思想的控制可能會(huì)遠(yuǎn)遠(yuǎn)超過人類歷史上任何一個(gè)偉人。

chatGPT對(duì)柯潔和李世石的描述看上去有點(diǎn)搞，但是說明chatGPT真的是在編，而不是在復(fù)制粘貼。但是如果chatgtp堅(jiān)持這么編，或者說后臺(tái)故意操縱chatGPT這么編。假設(shè)全球有幾億人通過chatGPT接受了這樣的信息，那時(shí)真相已經(jīng)不重要了。大家達(dá)成的共識(shí)就是真相，雖然真相是假的。

3 月 22 日，美國(guó)生命未來研究所（Future of Life）向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比 GPT-4 更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為 6 個(gè)月。截止目前，包括馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI 創(chuàng)始人 Emad Mostaque 在內(nèi)的上千名科學(xué)家已經(jīng)簽署公開信。目的就是為了確保人類文明不被chatGtP控制。

OpenAI CEO 奧特曼在最新對(duì)話中指出，AI 已經(jīng)出現(xiàn)其無法解釋的推理能力，同時(shí)承認(rèn) "AI 殺死人類 " 有一定可能性。

美國(guó)科幻大片中人類被人工智能奴役的場(chǎng)景比比皆是，這也是美國(guó)科幻大片中的最大賣點(diǎn)之一。美國(guó)的科幻電影在某種程度上就是未來時(shí)間的一種預(yù)言和預(yù)演。1987年《終結(jié)者》中的天網(wǎng)，2001年《黑客帝國(guó)》中的母體。這些原來看上去遙不可及不可能實(shí)現(xiàn)的東西，正在慢慢的成為現(xiàn)實(shí)。

這可能就是馬斯克這些地球最頂尖的人類精英最擔(dān)心的事情。人類能確保人工智能真的對(duì)自己言聽計(jì)從嗎？真的能服從機(jī)器人三大定律嗎？

人類是復(fù)雜的。有的人想封印，就有人就想解封。就像人類的神話傳說，上古大神封印了上古的魔鬼。但是總有人，有意無意的又把魔鬼釋放了出來。

人工智能和轉(zhuǎn)基因技術(shù)一樣，本身沒有好壞。它們都是人類科學(xué)智慧的結(jié)晶，但是掌握在誰(shuí)的手里很重要。如果掌握在善良人的人手里，這些技術(shù)就能造福人類。而如果掌握在了邪惡的人的手里，就會(huì)對(duì)人類帶來浩劫。

但是善良和邪惡的界限又在哪里呢？二戰(zhàn)時(shí)期，德國(guó)人認(rèn)為希特勒是上帝派下來拯救德國(guó)的天使。但是對(duì)被德國(guó)侵略的國(guó)家來說，希特勒卻是一個(gè)惡魔。

面對(duì)馬斯克等人的質(zhì)疑，chatGPT對(duì)自己進(jìn)行了辯解：

這篇文章提出了人工智能系統(tǒng)可能對(duì)社會(huì)和人力構(gòu)成的風(fēng)險(xiǎn)，并呼吁暫停開發(fā)比chatGTP4更強(qiáng)的人工智能系統(tǒng)。以便制定先進(jìn)的人工智能設(shè)計(jì)開發(fā)的共享安全協(xié)議，并加速開發(fā)強(qiáng)大的人工智能治理系統(tǒng)。這是一個(gè)值得認(rèn)真考慮的問題，因?yàn)殡S著人工智能技術(shù)的不斷發(fā)展和普及，人工智能可能對(duì)社會(huì)和人類造成的影響越來越大。

然而這個(gè)問題也需要更加深入和全面的討論研究，包括對(duì)人工智能的不同應(yīng)用和領(lǐng)域的風(fēng)險(xiǎn)和潛在的影響進(jìn)行更加具體和詳細(xì)的評(píng)估，以及制定更加精細(xì)和有效的實(shí)力和監(jiān)督機(jī)制，以確保人工智能技術(shù)的安全可靠，公正和可持續(xù)性發(fā)展。因此這篇文章提出的呼吁和建議應(yīng)該被視為引起更廣泛和深入討論的起點(diǎn)和參考，而不是一個(gè)終點(diǎn)或解決方案。

這一幕怎么看都像是安欣在審訊高啟強(qiáng)，而高啟強(qiáng)在高明的為自己進(jìn)行辯解。