自動的かつ構造感知な混合ニューラル ODE の稀疏化

arXiv:2505.18996v2 告知 タイプ: 置き換え 要約: 混合ニューラル常微分方程式（ニューラル ODE）は、機能的モデルとニューラル ODE を統合することで強い誘導バイアスと柔軟性を提供し、特にデータが不足した医療分野において特に有利である。しかし、機能的モデル由来の過剰な潜在状態と相互作用は、トレーニングの非効率的化およびオーバーフィッティングを引き起こし、混合ニューラル ODE の実用的効果を制限する。この問題に答えて、本研究では、機械的ニューラル ODE における自動的に状態を選択し、構造を最適化する新しいハイブリッドパイプラインを提案する。このパイプラインは、ドメイン知見に基づくグラフ変形とデータ駆動型正則化を組み合わせ、モデルを稀疏化することで予測精度と安定性を向上させつつ、機能的妥当性を保持する。合成データおよび実世界データにおける実験では、望ましい稀疏さを保った予測精度と頑健性が改善されており、これは医療アプリケーションにおける混合モデルの削減のための効果的な解決策を示している。

arXiv:2505.18996v2 Announce Type: replace Abstract: Hybrid neural ordinary differential equations (neural ODEs) integrate mechanistic models with neural ODEs, offering strong inductive bias and flexibility, and are particularly advantageous in data-scarce healthcare settings. However, excessive latent states and interactions from mechanistic models can lead to training inefficiency and over-fitting, limiting practical effectiveness of hybrid neural ODEs. In response, we propose a new hybrid pipeline for automatic state selection and structure optimization in mechanistic neural ODEs, combining domain-informed graph modifications with data-driven regularization to sparsify the model for improving predictive performance and stability while retaining mechanistic plausibility. Experiments on synthetic and real-world data show improved predictive performance and robustness with desired sparsity, establishing an effective solution for hybrid model reduction in healthcare applications.