來源丨元宇宙簡史

編寫丨元宇宙簡史編輯部

【元宇宙導(dǎo)讀】本文將從什么是LaMDA和PaLM模型、為什么要升級(jí)Bard、Bard 升級(jí)的進(jìn)展和挑戰(zhàn)等幾個(gè)方面展開。

谷歌的對(duì)話人工智能（AI）技術(shù) Bard 是一款可以與用戶進(jìn)行自然、流暢和有趣的對(duì)話的應(yīng)用程序，它可以回答各種問題，甚至可以編寫代碼。

Bard 正運(yùn)行在一個(gè)輕量級(jí)和高效版本的 LaMDA 模型上，這是一個(gè)專注于提供對(duì)話的人工智能語言模型。

但是，谷歌首席執(zhí)行官 Sundar Pichai 近日在接受 Hard Fork 播客節(jié)目采訪時(shí)表示，Bard 將從基于輕量級(jí) LaMDA 模型升級(jí)為更大規(guī)模的 PaLM 模型。

Pichai 表示，PaLM 模型規(guī)模更大，Bard 在處理常識(shí)推理和編程問題等任務(wù)時(shí)能力更強(qiáng)，升級(jí)版 Bard 將于下周會(huì)有新進(jìn)展。

01、什么是LaMDA和PaLM模型？

LaMDA 是 Language Models for Dialog Applications 的縮寫，是谷歌去年推出的一種語言模型，專門用于對(duì)話應(yīng)用程序。

LaMDA 通過微調(diào)一系列專門用于對(duì)話的、基于 Transformer 的神經(jīng)語言模型構(gòu)建的，具有多達(dá) 1370 億個(gè)參數(shù)。LaMDA 可以利用外部知識(shí)源進(jìn)行對(duì)話，并遵循負(fù)責(zé)任 AI（Responsible AI）實(shí)踐，避免做出沒有外部信息源支持的事實(shí)陳述。

PaLM 是 Pre-trained Language Model 的縮寫，是谷歌最新公布的一種語言模型，包含 5400 億個(gè)參數(shù)，數(shù)量幾乎是 LaMDA 的四倍。PaLM 是在公共對(duì)話數(shù)據(jù)和其他公共網(wǎng)頁文檔中收集并創(chuàng)建的一個(gè)具有 1.56T 單詞的數(shù)據(jù)集上預(yù)訓(xùn)練的。PaLM 可以完成不同任務(wù)，例如將一種語言翻譯成另一種語言，將長文檔總結(jié)為簡短的摘要等。

02、為什么要升級(jí)Bard？

Pichai 在采訪中表示，Bard 的目標(biāo)是提供一種自然、流暢和有趣的對(duì)話體驗(yàn)，讓用戶感覺像是在與一個(gè)真實(shí)的人交談。他說，Bard 目前已經(jīng)可以做到這一點(diǎn)，但還有很多改進(jìn)空間。他說：“我們想讓 Bard 能夠處理更復(fù)雜、更深入、更富有洞察力的問題和回答?！?/span>

Pichai 舉例說，Bard 目前可以回答一些基本的編程問題，例如如何打印“Hello World”，但如果用戶想要了解更高級(jí)的編程概念或技巧，Bard 就會(huì)遇到困難。他說：“我們想讓 Bard 能夠教你如何編程，而不僅僅是給你一些代碼片段?！?/span>

Pichai 還說，Bard 目前還缺乏常識(shí)推理能力，例如理解時(shí)間、空間、因果關(guān)系等概念。他說：“我們想讓 Bard 能夠像人類一樣思考，而不是像一個(gè)機(jī)器一樣只能處理字面意義上的信息?！?/span>

為了實(shí)現(xiàn)這些目標(biāo)，Pichai 說，Bard 需要一個(gè)更大規(guī)模、更強(qiáng)大的語言模型，即 PaLM。他說，PaLM 模型可以提供更多的知識(shí)、更好的理解和更高的創(chuàng)造力，讓 Bard 成為一個(gè)更智能、更有趣、更有用的對(duì)話伙伴。他說：“我們相信 PaLM 模型是對(duì)話 AI 的未來，它將為用戶帶來前所未有的體驗(yàn)?！?/span>

03、Bard 升級(jí)的進(jìn)展和挑戰(zhàn)

Pichai 透露，Bard 的升級(jí)工作已經(jīng)在進(jìn)行中，馬上將會(huì)有新的進(jìn)展。他說，谷歌的研究團(tuán)隊(duì)已經(jīng)在測(cè)試 PaLM 模型在不同領(lǐng)域和場(chǎng)景下的表現(xiàn)，包括教育、娛樂、健康、旅游等。他說，目前的結(jié)果令人鼓舞，PaLM 模型顯示出了比 LaMDA 模型更高的質(zhì)量、安全性和根基性。

質(zhì)量是指模型是否產(chǎn)生在對(duì)話上下文中有意義、特定和有趣的響應(yīng)；安全性是指模型是否避免了任何可能對(duì)用戶造成傷害或加劇不公平偏見的輸出；根基性是指模型是否能夠根據(jù)可靠的外部信息源來支持其事實(shí)陳述。

Pichai 說，PaLM 模型在這些方面都優(yōu)于 LaMDA 模型，甚至接近人類水平。他說：“PaLM 模型可以與用戶進(jìn)行自然、流暢和有趣的對(duì)話，同時(shí)保持事實(shí)正確、安全可靠和負(fù)責(zé)任。”

然而，Pichai 也承認(rèn)，Bard 的升級(jí)還面臨著一些挑戰(zhàn)和難題。他說，其中一個(gè)挑戰(zhàn)是如何確保 PaLM 模型的控制性和可解釋性。他說：“PaLM 模型是一個(gè)非常復(fù)雜和強(qiáng)大的系統(tǒng)，它可以生成各種各樣的輸出。我們需要確保我們能夠理解和預(yù)測(cè)它的行為，并及時(shí)糾正任何不良或不合適的輸出?！?/span>

另一個(gè)挑戰(zhàn)是如何平衡 PaLM 模型的通用性和專業(yè)性。Pichai 說：“PaLM 模型是一個(gè)開放域的語言模型，它可以處理各種主題和任務(wù)。但是，在某些領(lǐng)域或場(chǎng)景下，用戶可能需要更專業(yè)或更個(gè)性化的服務(wù)。我們需要找到一種方法，讓 PaLM 模型能夠根據(jù)用戶的需求和偏好進(jìn)行自適應(yīng)調(diào)整。”

嚴(yán)正聲明：本文為元宇宙簡史原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載！內(nèi)容僅供參考交流，不構(gòu)成任何投資建議。任何讀者若據(jù)此進(jìn)行投資決策，風(fēng)險(xiǎn)自擔(dān)。