TwoHamsters: テキストから画像生成モデルにおけるマルチコンセプト構成的な不安全性のベンチマーク

arXiv:2604.15967v1 Announce Type: cross 要旨：テキストから画像生成（T2I）モデルの驚異的な合成能力にもかかわらず、コンテンツ違反からの保護は依然として課題です。既存の安全アライメントは、主に明示的な悪意ある概念に焦点を当てる傾向があり、構成的な意味における微妙ではあるが決定的なリスクを見落としている場合が多々あります。この見落としに対処するため、私たちは個別に無害な概念の明示的な連想から生じる不安定な意味が、個別に安全な概念の暗黙的な連想から生じるという新しい脆弱性を特定し、形式化しました。私たちはこの形式に基づいて、17.5k のプロンプトを含む MCCU 脆弱性を探査するための包括的なベンチマーク「TwoHamsters」を導入しました。10 つの最新モデルおよび 16 つの防衛メカニズムの厳格な評価を透過した我々の分析は、8 つの主要な知見を導き出しました。具体的には、我々は現在の T2I モデルおよび防衛メカニズムが深刻な MCCU リスクにさらであると示しました：TwoHamsters では FLUX が MCCU 生成成功率 99.52% を達成し、LLaVA-Guard はrecall 41.06% に過ぎません。これは、危険な構成的生成を管理する現下のパラダイムにおける決定的な限界を浮き彫りにしています。

arXiv:2604.15967v1 Announce Type: cross Abstract: Despite the remarkable synthesis capabilities of text-to-image (T2I) models, safeguarding them against content violations remains a persistent challenge. Existing safety alignments primarily focus on explicit malicious concepts, often overlooking the subtle yet critical risks of compositional semantics. To address this oversight, we identify and formalize a novel vulnerability: Multi-Concept Compositional Unsafety (MCCU), where unsafe semantics stem from the implicit associations of individually benign concepts. Based on this formulation, we introduce TwoHamsters, a comprehensive benchmark comprising 17.5k prompts curated to probe MCCU vulnerabilities. Through a rigorous evaluation of 10 state-of-the-art models and 16 defense mechanisms, our analysis yields 8 pivotal insights. In particular, we demonstrate that current T2I models and defense mechanisms face severe MCCU risks: on TwoHamsters, FLUX achieves an MCCU generation success rate of 99.52%, while LLaVA-Guard only attains a recall of 41.06%, highlighting a critical limitation of the current paradigm for managing hazardous compositional generation.