確率論的検証されたニューラルネットワークのための効率的確率論的外包生成による検証

arXiv:2604.21556v1 告知 タイプ：新規 要約：ニューラルネットワークの確率論的検証問題は、入力確率分布に従う場合、出力空間における安全制約を満たす確率を調べるものです。入力にしばしば確率論的変数によってモデル化された擾乱が生じる場合、この問題を解くことは重要です。本稿では、安全確率の保証された範囲を効率的に計算するために安全な外包と不安定な外包を探索する効率的な手法を用いた新しいニューラルネットワーク確率論的検証フレームワークを提案します。私たちのアプローチは以下の 3 つの主要な革新によって構成されています：(1) 回帰木を使用して確率論的外包を生成する状態空間分割戦略、(2) 入力空間の安全境界を判定するために後に回帰木を構築するために使用されるサンプルを用いる境界感度サンプリング手法、および (3) 確率論的優先化による安全確率の保証された範囲の計算のための反復的-refinement。私たちのアプローチの精度と効率性には、ACAS Xu とロケットランチャーコントローラーを含む各種ベンチマークで評価されました。結果は既存の技術に明確な優位性を示しています。

arXiv:2604.21556v1 Announce Type: new Abstract: The problem of probabilistic verification of a neural network investigates the probability of satisfying the safe constraints in the output space when the input is given by a probability distribution. It is significant to answer this problem when the input is affected by disturbances often modeled by probabilistic variables. In the paper, we propose a novel neural network probabilistic verification framework which computes a guaranteed range for the safe probability by efficiently finding safe and unsafe probabilistic hulls. Our approach consists of three main innovations: (1) a state space subdivision strategy using regression trees to produce probabilistic hulls, (2) a boundary-aware sampling method which identifies the safety boundary in the input space using samples that are later used for building regression trees, and (3) iterative refinement with probabilistic prioritization for computing a guaranteed range for the safe probability. The accuracy and efficiency of our approach are evaluated on various benchmarks including ACAS Xu and a rocket lander controller. The result shows an obvious advantage over the state of the art.