Laplacian-LoRA: スペクトラル低ランク適応によるディープ GCN におけるオーバースムーthingの遅延

arXiv:2602.07278v1 Announce Type: new 摘要：オーバースムーthing はディープグラフコンベンショネット（GCN）の基本的な限界であり、深さが深くなるにつれてノード表現が崩壊を引き起こします。既存の多くのアプローチはアーキテクチャの変更やリミカル機構を通じてこの効果を緩和していますが、オーバースムーthing の根本的なスペクトル原因はしばしば明示されていません。われわれは、標準的な GCN のスペクトル低ランク適応である Laplacian-LoRA を提案します。メッセージパッシングを再設計するのではなく、Laplacian-LoRA は固定的なラプリアン伝播演算子に学ばれたスペクトルに固定された修正を導入し、選択的に収縮を弱めつつ安定性とローパス誘導バイアスを保持します。複数のベンチマークデータセットおよび深さにおいて、Laplacian-LoRA は一貫してオーバースムーthing の発現を遅延させ、GCN の有効深さを最大で 2 倍まで延伸させます。分散診断の埋め込み確認は、これらの利益が遅延した表現の崩壊から生まれていることを示し、学得したスペクトル分析は修正が滑らかであり、有界で適切であることを示しています。われわれの結果は、オーバースムーthing が深さ依存のスペクトル現象であることを示し、これはグラフ伝播演算子の低ランク適応を通じて体系的に遅延させることができます。

arXiv:2602.07278v1 Announce Type: new Abstract: Oversmoothing is a fundamental limitation of deep graph convolutional networks (GCNs), causing node representations to collapse as depth increases. While many prior approaches mitigate this effect through architectural modifications or residual mechanisms, the underlying spectral cause of oversmoothing is often left implicit. We propose Laplacian-LoRA, a simple and interpretable low-rank spectral adaptation of standard GCNs. Rather than redesigning message passing, Laplacian-LoRA introduces a learnable, spectrally anchored correction to the fixed Laplacian propagation operator, selectively weakening contraction while preserving stability and the low-pass inductive bias. Across multiple benchmark datasets and depths, Laplacian-LoRA consistently delays the onset of oversmoothing, extending the effective depth of GCNs by up to a factor of two. Embedding variance diagnostics confirm that these gains arise from delayed representational collapse, while learned spectral analysis demonstrates that the correction is smooth, bounded, and well behaved. Our results show that oversmoothing is a depth-dependent spectral phenomenon that can be systematically delayed through modest, low-rank adaptation of the graph propagation operator.