NAS下搭建FastGpt,一個(gè)基于 LLM 大語(yǔ)言模型的知識(shí)庫(kù)問(wèn)答系統(tǒng)
前言
FastGPT是一個(gè)基于LLM大語(yǔ)言模型的知識(shí)庫(kù)問(wèn)答系統(tǒng),提供開(kāi)箱即用的數(shù)據(jù)處理、模型調(diào)用等能力。同時(shí)可以通過(guò)Flow可視化進(jìn)行工作流編排,從而實(shí)現(xiàn)復(fù)雜的問(wèn)答場(chǎng)景!該項(xiàng)目為群有提供,且他自己部署了一個(gè),用著我感覺(jué)還不錯(cuò),而且官方也有體驗(yàn)版本可以使用。感興趣可以去看看:https://fastgpt.run/
部署
FastGPT提供了docker-compose,所以我們可以直接用它官方項(xiàng)目的文件做到快速部署。官方兩份不同的文檔,分別提供了非host版本與host版本。根據(jù)自己情況選擇使用。

這里我選擇的為非host版本,需要檢查一下端口,更改為自己不沖突端口就可以了。代碼如下:
其中涉及到了一些文件,我們需要提前創(chuàng)建好,在docker-compose文件中也有寫(xiě),根據(jù)提示創(chuàng)建即可,也可以直接參考我的設(shè)置。

最后我們打開(kāi)群暉的ssh端口,并用ssh工具連接到群暉,cd到fastGPT目錄后輸入命令:docker-compose up -d便可以啟動(dòng)項(xiàng)目了(需要注意文件格式,切換到utf-8)。

啟動(dòng)成功之后會(huì)出現(xiàn)如下的界面,此時(shí)就能在docker UI中看到三個(gè)容器了。

體驗(yàn)
瀏覽器輸入http://nasip+端口號(hào)就能看到項(xiàng)目界面了,此時(shí)我們點(diǎn)擊右上角的登錄就可以了。

如果你沒(méi)有更改默認(rèn)配置,那么用戶名便是root,密碼為1234。

使用需要配置好openAI才行,簡(jiǎn)單模式下也可以用,但是采用的是基礎(chǔ)庫(kù),沒(méi)有3.5以及4.0這么智能。

至于更多功能,可以自行去體驗(yàn)哦。熊貓對(duì)于GPT一類的都不是很感興趣。
總結(jié)
工具是個(gè)好工具,不過(guò)知識(shí)庫(kù)需要搭建好,同時(shí)GPT的收費(fèi)看似很低,日常用下來(lái)后你會(huì)發(fā)現(xiàn)用起來(lái)很快,無(wú)形中就沒(méi)了。所以我還是選擇bingAI吧!
以上便是本期的全部?jī)?nèi)容了,原創(chuàng)不易,不妨點(diǎn)贊收藏,最后也希望能得到你的關(guān)注,咱們下期見(jiàn)!
