實(shí)測(cè)4GB的RTX3050ti好像不能跑ChatGLM-6B
CUDA out of memory，應(yīng)該顯存不夠
in4量化運(yùn)行
版本CUDA? 11.6.134
顯卡驅(qū)動(dòng)版本 512.36
標(biāo)簽：
你可能也喜歡這些文章
最新發(fā)布的文章
- 農(nóng)發(fā)行河津市支行做好年終決算工作
- 農(nóng)發(fā)行河津市支行持續(xù)加強(qiáng)反洗錢(qián)工作管理
- 農(nóng)發(fā)行河津市支行扎實(shí)做好安保工作
- 農(nóng)發(fā)行河津市支行組織開(kāi)展憲法主題宣傳活動(dòng)
- 農(nóng)發(fā)行河津市支行開(kāi)展"挺膺擔(dān)當(dāng)，強(qiáng)國(guó)復(fù)興"主題團(tuán)日活動(dòng)
- 年終總結(jié)2023，布局2024，挑一個(gè)目標(biāo)置頂一整年！
- 12月20日維護(hù)結(jié)束，冰雪嘉年華開(kāi)啟！
- 2023掃文—高熱不止 by 黃昏密度
- Dive 55 工作的平衡
- 時(shí)尚 | 時(shí)尚趨勢(shì)是如何做出來(lái)的？
- 三星 Galaxy S24 Ultra，HP2SX兩億像素主攝，驍龍8Gen3超頻版，鈦合金機(jī)身，類(lèi)2K直屏
- 重慶TOP DECK超牌12月16日游戲王OCG積分賽環(huán)境戰(zhàn)報(bào)
- 致命公司多人聯(lián)機(jī)mod，漢化游戲下載使用安裝教學(xué)！
- 致命公司多人mod，超全MOD模組管理器
- 戰(zhàn)網(wǎng)下載卡在45%登錄失敗提示2045報(bào)錯(cuò)/戰(zhàn)網(wǎng)一鍵下載注冊(cè)教程！