GNN論文周報(bào) | 來自北航、中科院、MSRA、新加坡國(guó)立大學(xué)、慕尼黑工業(yè)大學(xué)等機(jī)構(gòu)前沿論
近年來,由于圖結(jié)構(gòu)的強(qiáng)大表示能力,用機(jī)器學(xué)習(xí)方法分析圖結(jié)構(gòu)的研究越來越受到重視。圖神經(jīng)網(wǎng)絡(luò)(GNN)是圖領(lǐng)域中一類基于深度學(xué)習(xí)的方法,由于其卓越的性能和較好的可解釋性,GNN 已在圖分析中得到了廣泛的應(yīng)用。
我們精選了10篇GNN領(lǐng)域的優(yōu)秀論文,來自北航、中科院、MSRA、新加坡國(guó)立大學(xué)、慕尼黑工業(yè)大學(xué)等機(jī)構(gòu)。
為了方便大家閱讀,只列出了論文標(biāo)題、作者、鏈接等信息,如果感興趣可復(fù)制鏈接查看,PC端數(shù)據(jù)同步(收藏即可在PC端查看),每日新論文也可登錄小程序查看。
1. Self-organization Preserved Graph Structure Learning with Principle of Relevant Information
作者:Qingyun Sun,Jianxin Li,Beining Yang,Xingcheng Fu,Hao Peng,Philip S. Yu
AI華同學(xué)綜述(大模型驅(qū)動(dòng)):大多數(shù)圖神經(jīng)網(wǎng)絡(luò)遵循信息傳遞范式,假設(shè)觀察到的結(jié)構(gòu)代表了原始矩陣關(guān)系。然而,這種基本假設(shè)無法永遠(yuǎn)得到滿足,即現(xiàn)實(shí)世界的圖像總是不完整、不流暢或冗余。如何揭露其固有的圖結(jié)構(gòu)在統(tǒng)一的方式中仍有爭(zhēng)議。我們提出了PRISL,一種基于相關(guān)信息的圖結(jié)構(gòu)學(xué)習(xí)框架,提供了一個(gè)簡(jiǎn)單的和統(tǒng)一的方法來識(shí)別自我組織以及隱藏結(jié)構(gòu)。PRISL學(xué)習(xí)包含最大可能的最有用且最不缺失的信息。
論文鏈接:https://www.aminer.cn/pub/63b39cbe90e50fcafdd1e368/
2. MM-GNN: Mix-Moment Graph Neural Network towards Modeling Neighborhood Feature Distribution
作者:Wendong Bi,Lun Du,Qiang Fu,Yanlin Wang,Shi Han,Dongmei Zhang
AI華同學(xué)綜述(大模型驅(qū)動(dòng)):圖生成模型的實(shí)用性本文提出了一種新的圖生成的模型,即混沌圖生 imponerende圖神經(jīng)網(wǎng)絡(luò)(MM-GNN)。它包括一個(gè)多階 moments插入(MME)模塊和一個(gè)基于元素的注意力推導(dǎo)模塊。我們?cè)?5個(gè)實(shí)際的圖上進(jìn)行了廣泛的實(shí)驗(yàn),以評(píng)估我們的模型,并得出的結(jié)果證明了該模型優(yōu)于現(xiàn)有的先進(jìn)模型。
論文鏈接:https://www.aminer.cn/pub/62fb0af090e50fcafd5fa9ba/
3. Neuron with Steady Response Leads to Better Generalization
作者:Qiang Fu,Lun Du,Haitao Mao,Xu Chen,Wei Fang,Shi Han,Dongmei Zhang
AI華同學(xué)綜述(大模型驅(qū)動(dòng)):我們提出了一種稱為神經(jīng)連貫性規(guī)律的通用規(guī)范化方法。它可以減少神經(jīng)遞歸變量?;趶?fù)雜度度量的理論,我們推斷了神經(jīng)連貫性假設(shè):類似于同類受試者的神經(jīng)具有更好的通用性。因此,我們提出了一種叫做神經(jīng)連貫性規(guī)范化的通用方法。
論文鏈接:https://www.aminer.cn/pub/61a6e89d5244ab9dcb50f96a/
4. A Generalization of ViT/MLP-Mixer to Graphs
作者:Xiaoxin He,Bryan Hooi,Thomas Laurent,Adam Perold,Yann LeCun,Xavier Bresson
AI華同學(xué)綜述(大模型驅(qū)動(dòng)):基于圖的神經(jīng)網(wǎng)絡(luò)在本文中,我們提出了一種通過計(jì)算機(jī)視覺引入維特和麥克風(fēng)混合結(jié)構(gòu)來解決這些缺陷的新方法。我們介紹了一種稱為圖麥克風(fēng)的多項(xiàng)式框架,它捕獲了長(zhǎng)距離依賴性和減輕了過度彎曲的問題。我們?cè)?個(gè)模擬數(shù)據(jù)集上進(jìn)行了測(cè)試,并表明我們的框架在7個(gè)實(shí)際數(shù)據(jù)集上都取得了令人滿意的結(jié)果。
論文鏈接:https://www.aminer.cn/pub/63ae56c790e50fcafda94fc7/
5. Training Differentially Private Graph Neural Networks with Random Walk Sampling
作者:Morgane Ayle,Jan Schuchardt,Lukas Gosch,Daniel Zügner,Stephan Günnemann
AI華同學(xué)綜述(大模型驅(qū)動(dòng)):圖形神經(jīng)網(wǎng)絡(luò)的隱私被認(rèn)為會(huì)給訓(xùn)練數(shù)據(jù)帶來的風(fēng)險(xiǎn)。然而,將這種技術(shù)應(yīng)用于基于圖的結(jié)構(gòu)化數(shù)據(jù)模型時(shí)面臨著新的挑戰(zhàn)。我們提出了三種隨機(jī)路徑的分布式方法來訓(xùn)練圖形神經(jīng)網(wǎng)絡(luò),并對(duì)生成的數(shù)據(jù)收集分布進(jìn)行精確分析以提供強(qiáng)有力的安全保證。通過廣泛的實(shí)驗(yàn),我們證明了我們的方法在三個(gè)大圖中都優(yōu)于或超過最先進(jìn)水平。
論文鏈接:https://www.aminer.cn/pub/63b39cbf90e50fcafdd1e850/
6. 2-hop Neighbor Class Similarity (2NCS): A graph structural metric indicative of graph neural network performance
作者:Andrea Cavallo,Claas Grohnfeldt,Michele Russo,Giulio Lovisotto,Luca Vassio
AI華同學(xué)綜述(大模型驅(qū)動(dòng)):?圖神經(jīng)網(wǎng)絡(luò)在許多領(lǐng)域都能獲得最先進(jìn)的性能。其基本能力將節(jié)點(diǎn)表示為它們周圍位置的概述證明了它們對(duì)同性戀數(shù)據(jù)的有效性。然而,對(duì)于所有同性戀圖中都可能出現(xiàn)的不同的類型圖,GNN在某些情況下表現(xiàn)不佳,而局部信息往往不夠代表性或誤導(dǎo)。本文突出了人們廣泛使用的同性戀配價(jià)和最近的十字路徑相似度度量存在限制。為了克服這些限制,我們引入2Hop鄰居類相似度(2NCS),一種新的定量圖結(jié)構(gòu)屬性,該屬性與GNN性能比其他度量具有更強(qiáng)有力的相干性。
論文鏈接:https://www.aminer.cn/pub/63aa623e90e50fcafd978c1e/
7. GraphCast: Learning skillful medium-range global weather forecasting
作者:Remi Lam,Alvaro Sanchez-Gonzalez,Matthew Willson,Peter Wirnsberger,Meire Fortunato,Alexander Pritzel......
AI華同學(xué)綜述(大模型驅(qū)動(dòng)): ?圖像建模是一個(gè)基于圖的神經(jīng)網(wǎng)絡(luò)和一種新的高度解析的多邊形矩陣表示。它可以在6小時(shí)內(nèi)生成10天的天氣預(yù)報(bào),每個(gè)變體在37個(gè)垂直壓力水平下,每變體在25x25公里大小的地圖上。我們的結(jié)果表明,圖像建模比最準(zhǔn)確的先前基于機(jī)器學(xué)習(xí)的基線預(yù)測(cè)模型更精確。
論文鏈接:https://www.aminer.cn/pub/63aa623990e50fcafd9784bc/
8. Graph Learning with Localized Neighborhood Fairness
作者:April Chen,Ryan Rossi,Nedim Lipka,Jane Hoffswell,Gromit Chan,Shunan Guo,Eunyee Koh,Sungchul Kim,Nesreen K. Ahmed
AI華同學(xué)綜述(大模型驅(qū)動(dòng)): ?在本文中,我們形式化地將Neighborhood Fairness概念引入文本中,并開發(fā)了一個(gè)計(jì)算框架來學(xué)習(xí)這種局部公平嵌套。我們認(rèn)為,由于基于基線模型的模型在節(jié)點(diǎn)級(jí)別運(yùn)行,該術(shù)語更恰當(dāng)。我們提出了一個(gè)區(qū)塊鏈分類器,用于從任意數(shù)據(jù)中學(xué)習(xí)區(qū)塊圖表示。
論文鏈接:https://www.aminer.cn/pub/63a910a290e50fcafd2a8527/
9. Reinforced, Incremental and Cross-lingual Event Detection From Social Messages
作者:Hao Peng,Ruitong Zhang,Shaoning Li,Yuwei Cao,Shirui Pan,Philip Yu
AI華同學(xué)綜述(大模型驅(qū)動(dòng)):從社交信息中發(fā)現(xiàn)社交事件的重新強(qiáng)制、增量和跨語言事件檢測(cè)架構(gòu)是一項(xiàng)挑戰(zhàn)。然而,現(xiàn)有的事件檢測(cè)方法通常與歧義事件特征、分散文本內(nèi)容和多種語言作戰(zhàn)。在本文中,我們提出了一種新的重新強(qiáng)制的、增量的和跨域的社會(huì)事件檢測(cè)體系,即芬事件。具體地說,我們首先模擬社交消息,然后我們提出了一個(gè)新的增強(qiáng)的多對(duì)多關(guān)系圖神經(jīng)網(wǎng)絡(luò)框架,以選擇最優(yōu)聚類閾值來學(xué)習(xí)社交數(shù)據(jù)嵌入。為了解決長(zhǎng)期問題,提出了一種平衡的采樣策略指導(dǎo)反向?qū)W習(xí)機(jī)制,用于增量社交新聞表示學(xué)習(xí)。最后,我們實(shí)現(xiàn)了跨語言社交聚類任務(wù)的轉(zhuǎn)換。
論文鏈接:https://www.aminer.cn/pub/61f278385244ab9dcbe0cacc/
10. Complete the Missing Half: Augmenting Aggregation Filtering with Diversification for Graph Convolutional Networks
作者:Sitao Luan,Mingde Zhao,Chenqing Hua,Xiao-Wen Chang,Doina Precup
AI華同學(xué)綜述(大模型驅(qū)動(dòng)):在本文中,我們研究了基于圖的神經(jīng)網(wǎng)絡(luò)(GNN)學(xué)習(xí)算法的聚類和多路徑過濾器。這些算法通過給定一組特征并將它們擴(kuò)展到更具標(biāo)志性的節(jié)點(diǎn)上進(jìn)行迭代訓(xùn)練,以生成具有更高層次特征的多路徑過濾器。我們?cè)?個(gè)標(biāo)記分類任務(wù)的基準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)表明,該方法優(yōu)于現(xiàn)有的GNN方法,并且顯著提高了性能。
論文鏈接:https://www.aminer.cn/pub/5f3f991891e011d38f924371/