群聊日記(20230719)-老馬的御林軍團/特斯拉的反侵權(quán)事件/大AI時代的討論

老馬的御林軍團

@Jin Feng:我覺得這個也可能值得挖一下。聽著很傳奇的。聽著像:終極老妖怪馬一龍手下的超秘密精英別動隊。暗中的利劍,無聲的清掃者。。。。


@Jin Feng:去年推特剛接手,腥風(fēng)血雨砍人的時候,也有報道說老馬帶著幾十個特和空叉工程師去推特坐鎮(zhèn)(https://www.cnbc.com/2022/10/31/elon-musk-has-pulled-more-than-50-tesla-engineers-into-twitter.html)說不定里面就有 The 25 Guns。

特斯拉的反侵權(quán)事件
@除了馬斯克啥都懂:萬能的群友來辟謠

@明明:拋開事實不談,這是什么流氓邏輯?
@yiran:這個昨天晉哥預(yù)言過,肯定又要有謠言出來了,果然啊

@Jin Feng:這個起訴是防御性起訴。
美國專利法太細(xì)太多,很容易掉坑里,不少大型公司都會搞一些很無聊但覆蓋面很廣的專利,用來防御。這樣如果有宵小用一個莫名其妙的專利來起訴大公司騙錢,大公司可以到他們自己擁有的這類無聊但覆蓋廣的專利里,找出一個起訴人也違反的,反告他們。
有點像核恐怖平衡。
是這個澳大利亞公司先告了特斯拉,所以特斯拉采取這么一個超級普通的做法,目的是讓他們把專利起訴撤了,然后特也會把自己的反訴撤了。
就是這個樣子。就知道會有人蹦出
特斯拉/馬一龍的承諾是,“不主動針對別的對特斯拉沒有惡意的公司,采用專利訴訟?!?strong>

大AI時代的討論
@Jin Feng:今天越想,越覺得這是本周最大的新聞了。


@Jin Feng:不知道華為,百度怎么想。。。可以一周就趕上GPT3.5,但接下來怎么辦?繼續(xù)趕?反向研究?
@老牛:這個還是不太懂,意味著誰都可以快速創(chuàng)造出一個gpt3.5嗎?
@Jin Feng:是的。
@老牛:以及推特能不能也這樣干
@Jin Feng:你是問推特能不能用它,還是能不能開發(fā)一個類似的模型。前者是,后者不一定。
@丁愷睿:開源≠公開訓(xùn)練數(shù)據(jù)和fine-tuning的語料庫,我覺得雖然目前用過好多宣稱性能超過gpt3.5的模型了,但總感覺使用體驗(回答的邏輯性、準(zhǔn)確性和學(xué)術(shù)性)不及gpt3.5,原因感覺還是3.5的fine tuning做得很好。我們的很多國產(chǎn)大模型都是基于gpt3.5的?之前訊飛星火還說露馬腳了(不停冒英文,還給出openai的api鏈接)
@Jin Feng:這個公開的不光是模型,而是pretrained and fine tuned model
@韓松:Meta的首席AI科學(xué)家是LeCun,深度學(xué)習(xí)三巨頭之一,實力不容小覷
@老牛:馬斯克說xAI幾周后會推出產(chǎn)品,能跟臉書這個匹敵嗎
@Jin Feng:可能性0,而且根據(jù)上次的xAI 推特 space, 他們沒說會在幾周后發(fā)布產(chǎn)品,而是說有可能發(fā)布一些他們開發(fā)的工具。
@丁愷睿:數(shù)據(jù)上……我覺得wikipedia很關(guān)鍵
@韓松:wiki的內(nèi)容比百度百科豐富很多
@丁愷睿:我不止一次看到chatgpt給我背wiki了
@@Jin Feng:所以就是自己搭的模型加自己的數(shù)據(jù)。這個。。。模型其實現(xiàn)在大家都差不太多,數(shù)據(jù)量、干凈程度、和訓(xùn)練模式,才是秘密醬油(secret sauce)
丁愷睿:嗯嗯,模型都是基于transformer,雖然encoding的方式等細(xì)節(jié)上、一些超參數(shù)會有一些靠經(jīng)驗的改變。我覺得老馬的產(chǎn)品可能偏向于“生產(chǎn)知識”(understanding the universe),原型參考Hitchhiker里面的,老馬說是要去推導(dǎo)一些物理定律。目前的大模型還只能做到整合與利用知識。另外一個就是模型的可解釋性,我覺得有可能要引入記憶力的機制(目前的model里面記憶和意識是混到一塊的黑箱)
那些年輕的天才去哪了
馬斯克的xAI人工智能公司,12位成員中,有4人來自中國,且都是青少年時代在中國學(xué)習(xí),再去往美國留學(xué)的天才少年。今天的視頻介紹了這4位杰出的90后,人工智能領(lǐng)域的大神,片子做到最后又不免感慨他們?yōu)槭裁床皇橇粼趪鴥?nèi)?我們不缺天才,也許我們只是需要Understand the universe ,問出那個正確的問題




歡迎加入有趣的群聊
