基于圖注意力和改進Transformer的節(jié)點分類方法

摘要： 當前，圖Transformer主要在傳統(tǒng)Transformer框架中附加輔助模塊達到對圖數(shù)據(jù)進行建模的目的 .然而，此類方法并未改進Transformer原有體系結(jié)構(gòu)，數(shù)據(jù)建模精度還有待進一步提高.基于此，本文提出一種基于圖注意力和改進Transformer的節(jié)點分類方法 .該方法構(gòu)建基于拓撲特征增強的節(jié)點嵌入進行圖結(jié)構(gòu)強化學(xué)習(xí)，并且設(shè)計基于二級掩碼的多頭注意力機制對節(jié)點特征進...