AIシステムリスクへの対応：代理人による予測支援とアシスタントによるテクノロジーの評価

AIの影響評価では、短期間のリスクの重視が一般的ですが、専門家の知識が稀缺な長い時間軸でリスクがより重要になります。長期的でシステム的なリスクに対処するためには、シンセサーシミュレーションを使用した代理人を用いた予測支援方法を開発しました。「Futures Wheel」という戦略的な予測法に基づいて、AIの使用4つの例（チャットボットコンシェルジュとエンターテイナー、ゴーストボットと死のアプリケーションなど）に対し、アシスタントが対応した結果を評価しました。専門家290人のレビューと業界リーダー7名からの評価に基づいて、AI代理人は30回の実行に対して多数のシステム的な予測結果を生成し、その中から専門家の特定したリスクをより少ないものに狭めました。彼らは通常、それらがより一貫性がないか、「より危険で」判断されます。ローティーンでは多くの問題を抱えています。専門家と一般の人々との「Futures Wheel」という戦略的な予測法のセッションからの結果に比べて、代理人によるAIスケジュールがより少ないシステム的でありながら、より感情的に関連性が高い問題を取り上げました。これらの結果から、代理人は特定したシステムリスクに対する対応を拡大し、専門家の状況理解と個々の視点に地政学的に基づいた情報を使用して、我々はそれらを強化する「複合的」という予測方法を開発することを提案しています。詳細は以下へ：https://social-dynamics.net/ai-risks/foresight.

arXiv:2602.08565v1 Announce Type: cross Abstract: AI impact assessments often stress near-term risks because human judgment degrades over longer horizons, exemplifying the Collingridge dilemma: foresight is most needed when knowledge is scarcest. To address long-term systemic risks, we introduce a scalable approach that simulates in-silico agents using the strategic foresight method of the Futures Wheel. We applied it to four AI uses spanning Technology Readiness Levels (TRLs): Chatbot Companion (TRL 9, mature), AI Toy (TRL 7, medium), Griefbot (TRL 5, low), and Death App (TRL 2, conceptual). Across 30 agent runs per use, agents produced 86-110 consequences, condensed into 27-47 unique risks. To benchmark the agent outputs against human perspectives, we collected evaluations from 290 domain experts and 7 leaders, and conducted Futures Wheel sessions with 42 experts and 42 laypeople. Agents generated many systemic consequences across runs. Compared with these outputs, experts identified fewer risks, typically less systemic but judged more likely, whereas laypeople surfaced more emotionally salient concerns that were generally less systemic. We propose a hybrid foresight workflow, wherein agents broaden systemic coverage, and humans provide contextual grounding. Our dataset is available at: https://social-dynamics.net/ai-risks/foresight.