傾向性の推論：LLM の行動に対する環境的な寄与要因

arXiv:2604.21098v1 Announce Type: new 要旨：整合されていない AI システムからの制御喪失のリスクに起因し、言語モデルの無許可行動の傾向を測定する手法を開発・適用します。我々は、環境的要因の変化が行動に与える効果を分析し、ベイズ一般線形モデルを通じて効果量を定量化し、循環的分析的に直面する問題に対する明示的な対策を講じるという、3 つの方法論的な改善に貢献します。我々はこの方法を適用し、12 つの環境的要因（戦略的 6 つ、非戦略的 6 つ）の影響を測定し、環境の戦略的要因が行動をどの程度説明できるかを検討しました。これは整合性リスクに関連する重要な問いです。23 つの言語モデルと 11 つの評価環境において、戦略的要因と非戦略的要因は行動を説明する際にほぼ等しい寄与があり、能力的な向上に伴い戦略的要因の影響がより増大または減少することが見出されませんでした。また、目標の衝突に対する感度が増大する傾向として一部の証拠を特定しました。最後に、今後の傾向研究のための重要な方向性を指摘しました：AI の意思決定の理論的枠組みや認知モデルを、経験的に検証可能な形式へ発展させることです。

arXiv:2604.21098v1 Announce Type: new Abstract: Motivated by loss of control risks from misaligned AI systems, we develop and apply methods for measuring language models' propensity for unsanctioned behaviour. We contribute three methodological improvements: analysing effects of changes to environmental factors on behaviour, quantifying effect sizes via Bayesian generalised linear models, and taking explicit measures against circular analysis. We apply the methodology to measure the effects of 12 environmental factors (6 strategic in nature, 6 non-strategic) and thus the extent to which behaviour is explained by strategic aspects of the environment, a question relevant to risks from misalignment. Across 23 language models and 11 evaluation environments, we find approximately equal contributions from strategic and non-strategic factors for explaining behaviour, do not find strategic factors becoming more or less influential as capabilities improve, and find some evidence for a trend for increased sensitivity to goal conflicts. Finally, we highlight a key direction for future propensity research: the development of theoretical frameworks and cognitive models of AI decision-making into empirically testable forms.