HyperFM: 分光グループ化を活用した効率的なハイスペクトルファウンデーションモデル

arXiv:2604.21127v1 Announce Type: new Abstract: NASA の PACE ミッションは、海洋色、エアロゾル、および雲の未曾有のハイスペクトル観測を提供し、これらの成分が地球の気候や大気質量にどのような影響を与えるかについての新たな洞察をもたらしています。Ocean Color Instrument は数百個の細かな波長帯を覆う光を測定しており、浮遊植物の組成、エアロゾル特性、および雲微物理学などの特徴の精密な特定を可能にします。しかし、この規模のハイスペクトルデータは巨大で複雑であり、ラベル化が困難であり、特殊な処理・分析技術の必要性を示しています。既存のファウンデーションモデルは、コンピュータビジョンおよび自然言語処理を変革してきましたが、標準的な RGB 画像で訓練されており、PACE が捉えた連続的なスペクトルシグネチャを解釈するのは困難です。最近の進歩によりハイスペクトルファウンデーションモデルが導入されましたが、これらは通常、天候のよい観測で訓練され、また分光的不一致のために単一センサーのデータセットに限定されてしまいます。さらに、既存のモデルはパラメータが多く計算コストが高く、拡張性と運用環境における採用を制限しています。これらの課題に対処するために、HyperFM は、分光空間関係をよりよく捉えながら計算コストを削減するために、グループ内およびグループ間分光注意機構と混合パラメータ分解を採用したパラメータ効率的なハイスペクトルファウンデーションモデルを導入します。HyperFM は、4 つのベンチマーク下流大気雲属性抽出タスクにおいて、既存のハイスペクトルファウンデーションモデルおよびタスク固有の最良手法よりも一貫した性能向上を示しました。さらなる研究を支援するために、我々はまた、天候のよいシーンと雲の両方が含まれる PACE ミッションの大規模ハイスペクトルデータセット、HyperFM250K をリリースしました。

arXiv:2604.21127v1 Announce Type: new Abstract: The NASA PACE mission provides unprecedented hyperspectral observations of ocean color, aerosols, and clouds, offering new insights into how these components interact and influence Earth's climate and air quality. Its Ocean Color Instrument measures light across hundreds of finely spaced wavelength bands, enabling detailed characterization of features such as phytoplankton composition, aerosol properties, and cloud microphysics. However, hyperspectral data of this scale is large, complex, and difficult to label, requiring specialized processing and analysis techniques. Existing foundation models, which have transformed computer vision and natural language processing, are generally trained on standard RGB imagery and therefore struggle to interpret the continuous spectral signatures captured by PACE. While recent advances have introduced hyperspectral foundation models, they are typically trained on cloud-free observations and often remain limited to single-sensor datasets due to spectral inconsistencies across instruments. Moreover, existing models tend to be parameter-heavy and computationally expensive, limiting scalability and adoption in operational settings. To address these challenges, we introduce HyperFM, a parameter-efficient hyperspectral foundation model that leverages intra-group and inter-group spectral attention along with hybrid parameter decomposition to better capture spectral spatial relationships while reducing computational cost. HyperFM demonstrates consistent performance improvements over existing hyperspectral foundation models and task-specific state-of-the-art methods across four benchmark downstream atmospheric cloud property retrieval tasks. To support further research, we additionally release HyperFM250K, a large-scale hyperspectral dataset from the PACE mission that includes both clear and cloudy scenes.