Diversity-Driven Neural Network Ensemblesを用いた時系列分類の向上

arXiv:2602.07579v1 発表型：新 要約：アンサンブル手法は、個々のモデルが学習した特徴の多様性を活用することで、様々な機械学習タスクにおいて最先端（SOTA）のパフォーマンスを実現する上で決定的な役割を果たしてきました。時系列分類（TSC）において、アンサンブル手法はニューラルネットワーク（NN）ベースか、HIVE-COTE などの従来の手法であっても極めて有効であることが証明されています。ただし、既存の多くは、TSC に特化した NN ベースのアンサンブル手法において、同一のアーキテクチャと構成を持つ複数のモデルを訓練しているという問題があります。これらのアンサンブルは特徴の多様性を明示的に促進することなく予測を集合化するため、しばしば冗長な特徴表現を引き起こし、アンサンブリングの恩恵を制限します。本稿では、ニューラルネットワークアンサンブルメンバー間の特徴多様性を明示的に促進する、多様性を導くアンサンブル学習フレームワークを導入します。当社のアプローチは、学習された特徴表現に直接適用される特徴直교性損失を用いた分解相関学習戦略を採用します。これにより、アンサンブル内の各モデルは補完的な情報のみならず、冗長な情報を受信しません。当社のフレームワークは、UCR アーカイブからの 128 のデータセットに評価され、モデル数の削減ながら SOTA パフォーマンスを達成することを示しました。これにより、従来の NN ベースのアンサンブル手法と比較して、当社の手法は効率的でスケーラブルであることが証明されました。

arXiv:2602.07579v1 Announce Type: new Abstract: Ensemble methods have played a crucial role in achieving state-of-the-art (SOTA) performance across various machine learning tasks by leveraging the diversity of features learned by individual models. In Time Series Classification (TSC), ensembles have proven highly effective whether based on neural networks (NNs) or traditional methods like HIVE-COTE. However most existing NN-based ensemble methods for TSC train multiple models with identical architectures and configurations. These ensembles aggregate predictions without explicitly promoting diversity which often leads to redundant feature representations and limits the benefits of ensembling. In this work, we introduce a diversity-driven ensemble learning framework that explicitly encourages feature diversity among neural network ensemble members. Our approach employs a decorrelated learning strategy using a feature orthogonality loss applied directly to the learned feature representations. This ensures that each model in the ensemble captures complementary rather than redundant information. We evaluate our framework on 128 datasets from the UCR archive and show that it achieves SOTA performance with fewer models. This makes our method both efficient and scalable compared to conventional NN-based ensemble approaches.