分散型量子ニューラルネットワークにおけるパラメータ数とローカルフェッチャーパッチ数が損失景観に及ぼす影響

arXiv:2504.19239v2 Announce Type: replace-cross 要約: 量子ニューラルネットワークは、古典コンピュータにとっては計算不可能であるが計算的に困難な課題を解決する可能性を秘めています。しかし、彼らの実用的な応用は、バーレンプレオと多数のローカル極小値で特徴付けられる複雑な損失景観から生じる著しい最適化課題によって妨げられています。これらの問題はパラメータ数や量子ビット数の増加に伴いさらに深刻化し、効果的なトレーニングを阻害します。これらの最適化課題を緩和するため、特に古典データに対して、私たちは複数の分散量子ニューラルネットワークにオーバーラップするローカルパッチを分布させ、それぞれのパッチを独立した量子ニューラルネットワークで処理し、その出力を合衆して予測を行います。本研究では、理論および実証的なヘシアン解析と損失景観可視化を通じて、分散型量子ニューラルネットワークアーキテクチャの損失景観幾何学がパラメータ数とパッチ数にどう影響を受けるかを調査します。私たちの結果は、パラメータ数の増加がより深く、鋭い損失景観をもたらす傾向があることを確認しました。至关重要的是、私たちは理論的に導出し、実証的に示しました。パラッチャー数の増加は、極小点での最大ヘシアン固有値を大幅に削減します。さらに、フルヘシアン固有値スペクトラムの分析は、古典的な深層学習モデルに似て、クラスの数に対応する不規則なアウトライヤースパイクと、ゼロ固有値に近接した固有値の塊から成る構造を明らかにしました。これらの知見は、当社の分散パッチアプローチが明示的な構造的正則化の一種として働き、最適化の安定性を促進し、潜在的には一般化能力を向上させることを示唆しています。私たちの研究は、最適化に関する課題に対する貴重な洞察を提供し、分散パッチアプローチが、古典データタスクのためのより学習可能でスケーラブルな量子機械学習モデルの開発に対して有望な戦略であることを強調しています。

arXiv:2504.19239v2 Announce Type: replace-cross Abstract: Quantum neural networks hold promise for tackling computationally challenging tasks that are intractable for classical computers. However, their practical application is hindered by significant optimization challenges, arising from complex loss landscapes characterized by barren plateaus and numerous local minima. These problems become more severe as the number of parameters or qubits increases, hampering effective training. To mitigate these optimization challenges, particularly for classical data, we distribute overlapping local patches across multiple quantum neural networks, processing each patch with an independent quantum neural network, and aggregating their outputs for prediction. In this study, we investigate how the number of parameters and patches affects the loss landscape geometry of this distributed quantum neural network architecture via theoretical and empirical Hessian analyses and loss landscape visualization. Our results confirm that increasing the number of parameters tends to lead to deeper and sharper loss landscapes. Crucially, we theoretically derive and empirically demonstrate that increasing the number of patches significantly reduces the largest Hessian eigenvalue at minima. Furthermore, our analysis of the full Hessian eigenspectrum reveals a structure consisting of a bulk of near-zero eigenvalues and distinct outlier spikes corresponding to the number of classes, similar to classical deep learning models. These findings suggest that our distributed patch approach acts as a form of implicit structural regularization, promoting optimization stability and potentially enhancing generalization. Our study provides valuable insights into optimization challenges and highlights that the distributed patch approach is a promising strategy for developing more trainable and scalable quantum machine learning models for classical data tasks.