新しい「プロアクティブ・メモリ（能動的メモリ）」モジュールにより、大規模言語モデル（LLM）エージェントは、コアモデルのファインチューニングを行うことなく、タスクの要件、環境に関する事実、および過去の失敗を追跡できるようになります。ベンチマークテストにおいて、このモジュールの追加により、Terminal-Bench 2.0におけるSonnet 4.5のスコアは8.3パーセントポイント、τ2-Benchスイートでは6.8ポイント向上しました。また、SETAで学習されたメモリ・エージェントは、未知の問題に対する凍結モデルのpass@1を37.6%から41.1%へと引き上げました。

なぜエージェントは迷走するのか

LLM駆動型エージェントが多段階の手順に従う際、その内部の「状態」は減衰していきます。研究者はこれを「行動状態の減衰（behavioral state decay）」と呼んでいます。モデルが以前の指示や重要な事実、あるいは既に行ったミスを忘れてしまう現象です。その結果、誤った判断が連鎖的に発生し、タスクが完了するずっと前に中断されてしまうことになります。

一般的な解決策は、モデルが一度に注目できるテキストの塊である「コンテキストウィンドウ」を拡大することです。しかし、これはタスクがウィンドウのサイズを超えない限り有効なだけであり、古い情報が破棄されると再び減衰が始まってしまいます。

必要な時にだけ機能するリマインダー

新しいアプローチでは、軽量な補助メモリ・エージェントを追加し、メインモデルの推論プロセスを監視して、的を絞ったリマインダーを注入します。過去のスニペットの静的なリストを呼び出すのではなく、メモリ・モジュールは「いつ」「何を」提示すべきかを判断し、メインモデルが迷走していると思われる時にのみ動作します。

メモリ学習器は個別に学習されるため、主要なアクションモデルは凍結されたままとなります。研究では、この分離によって長期的な（long-horizon）ベンチマークにおいてかなりの利点が得られることが示されており、プロアクティブなリマインダーが限られたコンテキストウィンドウを補完できることが証明されました。

数値が示すもの

  • Terminal-Bench 2.0: Sonnet 4.5のスコアがベースラインから8.3ポイント上昇。
  • τ2-Bench suite: 同モデルが6.8ポイント向上。
  • ホールドアウトテストにおけるPass@1: SETAで学習されたメモリ・エージェントが、凍結モデルのスコアを37.6%から41.1%に引き上げた。

これらの向上はメインモデルへの追加のファインチューニングなしに実現されるため、メモリ・コンポーネントを既存のデプロイメントに組み込んだり、取り除いたりすることが可能です。

本研究の限界

今回の実験では、以下の点については検証されていません。

  • スケール: 数十億パラメータ規模のモデルや、数百万ステップに及ぶタスクにおいて、メモリ・モジュールが同様に機能するかどうかについては、まだ証拠がありません。
  • 本番環境のコスト: リマインダーの保存と取得にはオーバーヘッドが伴いますが、本研究では実世界のシステムで必要となる追加のメモリや計算量を定量化していません。

今後の注目点

今後のベンチマーク・スイートには、単なるコンテキストのサイズ以上のものを測定することが求められるでしょう。状態の減衰を明示的に追跡し、能動的なリマインダー・システムを評価するテストによって、エージェントの長期的な信頼性をより明確に把握できるようになります。また、研究者はプロアクティブ・メモリがモデルのサイズと運用コストの両面において、効率的にスケールすることを示す必要があります。

まとめ: 個別に学習された小さなメモリ・モジュールは、大規模言語モデル・エージェントの「ウォッチドッグ（番犬）」として機能し、タスクが脱線する前に迷走を検知して修正することができます。