Hugging Face 每周速遞: Chatbot Hackathon;FLAN-T5 XL 微調(diào);構(gòu)建更安全的 LLM


每一周,我們的同事都會(huì)向社區(qū)的成員們發(fā)布一些關(guān)于 Hugging Face 相關(guān)的更新,包括我們的產(chǎn)品和平臺(tái)更新、社區(qū)活動(dòng)、學(xué)習(xí)資源和內(nèi)容更新、開源庫(kù)和模型更新等,我們將其稱之為「Hugging News」,本期 Hugging News 有哪些有趣的消息,快來(lái)看看吧!
??HACKATHON?? 造個(gè) ??? 去瀛海威廣場(chǎng)聚會(huì)啦!
百姓 AI 和 Hugging Face 聯(lián)合推出,就在下周末。大伙兒造/燥起來(lái)呀

使用 DeepSpeed 和 HuggingFace Transformers 對(duì) FLAN-T5 XL/XXL 進(jìn)行微調(diào)
《Scaling Instruction-Finetuned Language Models》論文中發(fā)布的 FLAN-T5 是 T5 的增強(qiáng)版本,它已經(jīng)在多種任務(wù)中進(jìn)行了微調(diào)。相同參數(shù)數(shù)量下,F(xiàn)LAN-T5 的表現(xiàn)比 T5 提高了兩位數(shù)。Google 已經(jīng)在 Hugging Face 上開源了 5 個(gè)版本,參數(shù)范圍從 80M 到 11B 不等。本文介紹了如何使用 Transformers 對(duì)其進(jìn)行微調(diào)。
https://www.philschmid.de/fine-tune-flan-t5-deepspeed
Composable T2I-Adapter demo 更新了。一鍵風(fēng)格遷移
demo:?
????https://huggingface.co/spaces/Adapter/T2I-Adapter


阿里同學(xué)的山水畫風(fēng)格文生圖模型
Demo:?
????https://huggingface.co/spaces/hysts/cv_diffusion_text-to-image-synthesis_tiny

構(gòu)建一個(gè)更加安全和友好的大語(yǔ)言模型

我們發(fā)布了一篇博文,討論了一種名為“紅隊(duì)”(red-teaming)的方法,通過(guò)測(cè)試語(yǔ)言模型的脆弱性和潛在的有害行為,從而開發(fā)出指導(dǎo)模型生成的策略,以使其產(chǎn)生的內(nèi)容更符合要求。我們探討了紅隊(duì)和對(duì)抗攻擊之間的相似之處和不同之處,并提供了一些紅隊(duì)測(cè)試的例子。希望 LLM 研究人員與我們共同合作,將紅隊(duì)方法應(yīng)用到 LLM 的開發(fā)中,以創(chuàng)造一個(gè)更加安全友好的世界。
查看博客文章:?
????https://hf.co/blog/red-teaming
Diffusers for Mac 1.1 發(fā)布

新版本我們提供了更好的質(zhì)量、更高的性能,以及對(duì)用戶界面方面的改進(jìn)。你可以更快的生成更高質(zhì)量的圖片,以及在界面上可以做更多的配置、禁用安全檢查器、顯示模型下載狀態(tài)等。
Diffusers 的 Mac 版本是開源的,歡迎提交問(wèn)題報(bào)告或貢獻(xiàn)代碼:
????https://github.com/huggingface/swift-coreml-diffusers
在 Gradio Blocks 中使用事件監(jiān)聽器

你可以使用事件監(jiān)聽器的?every
?參數(shù)定期重復(fù)運(yùn)行某個(gè)事件,當(dāng)客戶端連接打開時(shí),每隔指定的秒數(shù)就會(huì)運(yùn)行一次該事件。如果連接關(guān)閉,事件將在下一次迭代后停止運(yùn)行。請(qǐng)注意,這不考慮事件本身的運(yùn)行時(shí)間。因此,如果一個(gè)運(yùn)行時(shí)間為 1 秒且 every=5 的函數(shù),實(shí)際上將每隔 6 秒運(yùn)行一次。
查看詳細(xì)文檔:?
????https://gradio.app/blocks-and-event-listeners/#running-events-continuously
ChatRWKV v2 發(fā)布
ChatRWKV v2 最新 prompt 的用戶對(duì)話效果如下圖?
代碼?
????https://github.com/BlinkDL/ChatRWKV
模型?
????https://huggingface.co/BlinkDL/rwkv-4-pile-14b/blob/main/RWKV-4-Pile-14B-20230228-ctx4096-test663.pth
運(yùn)行 v2 / chat.py 即刻體驗(yàn)

以上就是本期的 Hugging News,期待看到大家用 AI 構(gòu)建的精彩應(yīng)用!