C-SHAP for time series: 高レベルの時間 series 説明のためのアプローチ

arXiv:2504.11159v2 Announce Type: replace 摘要：医療や産業など重要な判断が求められる分野では、AI による意思決定の解釈可能性が極めて重要になっている。モデルの判断ロジックに関する洞察がない場合、これらのモデルの信頼性は確保できない。多くのアプリケーションは、画像データとは異なり、解釈可能な AI（XAI）技術の開発において探索が不十分な時間 series データ型に依存している。現在の時間 series に対する大部分の XAI 技術は、ポイントまたは部分列に基づいた説明に焦点を当てている。これにより、ポイントや部分列は関連するすべてのパターンを捉えきれず、人間が解釈できる説明可能性を達成できない可能性があるため、実用性の限界が生じている。本稿では、このギャップを埋め、時間 series データから抽出された高レベルのパターンを「概念」として定義する概念に基づく XAI アプローチ（C-SHAP）を提案する。C-SHAP は、これらの概念の予測への影響を決定するために SHAP メソッドを活用する。開発されたフレームワークの有効性は、医療と産業用途、具体的には活動認識（HAR）と予備保全の形式で示されている。

arXiv:2504.11159v2 Announce Type: replace Abstract: In high-stakes domains, such as healthcare and industry, the explainability of AI-based decision-making has become crucial. Without insight into model reasoning, the reliability of these models cannot be ensured. Applications often rely on the time series data type which, unlike the image data type, is underexplored with respect to the development of explainable AI (XAI) techniques. Most existing XAI techniques for time series are focused on point- or subsequence-based explanations. This limits their usability since points and subsequences do not capture all relevant patterns and may not result in human-interpretable explainability. In this paper, we close this gap and propose a concept-based XAI approach (C-SHAP), where concepts are defined as high-level patterns extracted from the time series data. C-SHAP leverages the SHAP method to determine the influence of these concepts on predictions. The effectiveness of the developed framework is illustrated for use cases from healthcare and industry, in the form of Human Activity Recognition (HAR) and predictive maintenance.