Context-Agent：非線形対話のための動的対話ツリー

arXiv:2604.05552v2 Announce Type: replace-cross 要約：大規模言語モデル（LLM）は多くの言語タスクで顕著な性能を発揮していますが、人間の対話の非線形な流れを管理する際の根本的な課題に直面しています。対話履歴を平面的な直配列として扱う従来のアプローチは、自然言語の対話の本質的な階層性と分岐構造と整合性を欠き、トピックシフトや指示の修正を含む長期対話においてコンテキストの効率的な利用や統合作業の喪失をもたらします。この課題に対処するために、Multi-turn 対話履歴を動的なツリー構造としてモデル化する新しいフレームワークである Context-Agent を導入します。このアプローチは、対話の内在的な非線形性を反映し、異なるトピックに対応する複数の対話分岐を維持・航行可能にします。さらに、堅牢な評価を促進するために、長期ホライズンで非線形なシナリオにおけるモデル性能を評価することを目的とした Non-linear Task Multi-turn Dialogue (NTM) ベンチマークを提案します。我々の実験は、Context-Agent が様々な LLM でタスク完了率を向上させ、トークン効率を改善することを示し、構造化されたコンテキスト管理の複雑で動的な対話における価値を強調しています。データセットとコードは GitHub で利用可能です。

arXiv:2604.05552v2 Announce Type: replace-cross Abstract: Large Language Models demonstrate outstanding performance in many language tasks but still face fundamental challenges in managing the non-linear flow of human conversation. The prevalent approach of treating dialogue history as a flat, linear sequence is misaligned with the intrinsically hierarchical and branching structure of natural discourse, leading to inefficient context utilization and a loss of coherence during extended interactions involving topic shifts or instruction refinements. To address this limitation, we introduce Context-Agent, a novel framework that models multi-turn dialogue history as a dynamic tree structure. This approach mirrors the inherent non-linearity of conversation, enabling the model to maintain and navigate multiple dialogue branches corresponding to different topics. Furthermore, to facilitate robust evaluation, we introduce the Non-linear Task Multi-turn Dialogue (NTM) benchmark, specifically designed to assess model performance in long-horizon, non-linear scenarios. Our experiments demonstrate that Context-Agent enhances task completion rates and improves token efficiency across various LLMs, underscoring the value of structured context management for complex, dynamic dialogues. The dataset and code is available at GitHub.