記憶のパラドックス：AIは人類のすべてを知りながら、昨日のことを覚えていない理由
TREE NEWS 報道： 大規模言語モデルは人類の知識のすべてを取り込むことができるが、昨日何が起きたかを覚えておくことは苦手である。この根本的な矛盾は、人工知能における喫緊の課題の核心にある。すなわち、システムが過去のすべてを抱え込めないとき、いかにして時間を超えて一貫した継続的な意思決定を維持するか、という問題である。
この問題は新しいものではない。2015年、研究者のMatthew HausknechtとPeter Stoneは、Atariゲームの文脈でこの問題を指摘した。Pongの1フレームだけでは、パドルとボールの位置が分かるだけで、ボールの速度は分からない。進行方向が分からなければ、エージェントはパドルをどこへ動かすべきか判断できない。観測は状態ではない。そして両者の間のギャップこそ、記憶が介入すべき場所なのである。
生のピクセルから数十のAtariゲームをプレイすることを学んだDeepMindのDQNエージェントは、まさにこのジレンマに直面した。研究者たちは、多くのエミュレータの状態が「知覚的にエイリアシングされている」ことを認めた。つまり、2つの異なる状況が同一の画面を生み出しうるのだ。解決策は単純だが強引だった。直近4フレームを積み重ねて入力とするのである。動きは位置の変化として可視化されるが、記憶の窓は固定されたままだ。4フレームを超えるものは取り返しのつかない形で失われる。
コンテキストの厳格な境界
この4フレームの妥協は、より深い真実を露わにする。窓が4フレームであれ400万トークンであれ、あらゆる固定されたコンテキストは厳格な境界を課す。その境界の外にある情報は物理的に消去される。今日のLLMにとって、コンテキストウィンドウ——今では数百万トークンにまで広がっている——は依然としてスライディングウィンドウである。それは過去の要約を捉えるが、何を含めるかの選択は、モデルが次に何を予測する必要があるかによって決まる。その要約から省かれた詳細は、将来の意思決定に決して活かされない。
自律エージェントへの影響は計り知れない。トレーディングフロア、ロボティクス、顧客対応といった動的な環境では、エージェントは自らの履歴を、コンパクトかつ予測可能な状態へと圧縮しなければならない。これは単なるエンジニアリングの課題ではなく、記憶と計算の間の根本的なトレードオフである。エージェントが静的な知識検索から継続的な相互作用へと移行するにつれ、過去を有用な状態へと蒸留する能力が、その成功を左右するだろう。
今後の見通し
研究者たちは解決策を探っている。リカレントアーキテクチャ、外部メモリバンク、検索拡張生成などである。しかし、どのアプローチも同じ制約に直面する。すなわち、有限のリソースである。目標はすべてを覚えることではなく、重要なことを覚えることだ。AIエージェントがオンチェーン分析や取引のためにますます導入されている暗号資産の世界では、この制限は特に深刻である。過去1時間の市場状況を思い出せないエージェントは、ボールの方向が見えないPongプレイヤーのようなものだ。観測と状態の間のギャップを埋めることが、真に持続的で自律的な知能を構築する鍵であり続ける。
