Def.：
人間を模した感覚・短・長期の3段階構造を用いて,LLMやAIエージェントの記憶を効率的に管理するフレームワーク.
Atkinson-Shiffrinモデル[二重貯蔵モデル]における,情報の保持期間や容量が異なる複数の貯蔵庫を情報が移動していく,という心理学的なプロセスを,AIのアーキテクチャに落とし込んだもの.長期的な記憶[コンテキスト]を維持するために,毎回すべての履歴をに送り直す従来の手法と比較して,オンラインの推論と並行してバックグラウンドで知識を更新するので,最大117倍のトークン削減と12倍以上の高速化を実現.AnthropicやOpenAIのプロンプトキャッシュは一字一句同じプロンプトが再度送られた際に,計算済みデータを再利用して安く・速くする仕組み.
一方,LightMem*は情報をそのまま保持せず,要約・圧縮・構造化して保存する.つまり,ユーザーの入力に合わせて,膨大な記憶から,今必要な断片だけを動的に選んでプロンプトを構築する.
Mathematics is the language with which God has written the universe.