首先，我們（OpenAI，下略）的使命是確保通用人工智能可以造福全人類。在我們發(fā)現(xiàn)AGI潛力的同時(shí)，也了解到了許多AGI被濫用、以及可能造成社會(huì)混亂的風(fēng)險(xiǎn)。

我們的原則，第一是希望AGI賦予人類權(quán)力，使其在宇宙中最大限度地繁榮；第二是希望AGI的好處、獲取和治理得到廣泛和公平的分享；第三則是希望能夠成功應(yīng)對巨大的風(fēng)險(xiǎn)。

短期內(nèi)，隨著我們的系統(tǒng)越來越接近AGI，我們對模型的創(chuàng)建和部署變得越來越謹(jǐn)慎。

這種漸進(jìn)式過渡使人們、政策制定者和機(jī)構(gòu)有時(shí)間了解正在發(fā)生的事情，親自體驗(yàn)這些系統(tǒng)的好處和缺點(diǎn)，調(diào)整我們的經(jīng)濟(jì)，并實(shí)施監(jiān)管。

我們認(rèn)為社會(huì)必須就如何使用人工智能達(dá)成極其廣泛的共識(shí)，但在這些界限內(nèi)，個(gè)人用戶有很大的自由裁量權(quán)。我們最終的希望是，世界各機(jī)構(gòu)就這些廣泛的界限應(yīng)該是什么達(dá)成一致意見。

我們希望就三個(gè)關(guān)鍵問題進(jìn)行全球?qū)υ挘喝绾沃卫磉@些系統(tǒng)，如何公平分配它們產(chǎn)生的利益，以及如何公平地分享訪問權(quán)。

我們試圖以一種使我們的激勵(lì)措施與良好結(jié)果保持一致的方式建立我們的結(jié)構(gòu)。

在長遠(yuǎn)上，我們認(rèn)為，人類的未來應(yīng)該由人類決定，與公眾分享有關(guān)進(jìn)展的信息非常重要。應(yīng)該對所有試圖建立AGI的努力進(jìn)行嚴(yán)格審查，并為重大決策進(jìn)行公眾咨詢。

成功過渡到一個(gè)擁有超級(jí)智能的世界也許是人類歷史上最重要、最有希望、最可怕的項(xiàng)目。成功遠(yuǎn)未得到保證，賭注（無限的下行和無限的上行）有望使我們所有人團(tuán)結(jié)起來。

我們可以想象一個(gè)人類繁榮到我們?nèi)魏稳硕疾豢赡芡耆胂蟮某潭鹊氖澜纭Ｎ覀兿Ｍ麨槭澜缲暙I(xiàn)一個(gè)與這種繁榮相一致的AGI。

全文鏈接：Planning for AGI and beyond (openai.com)