ai.hackcv
论文精选 60arXiv

Handover of In-Context Learning State Across Session Boundaries· 会话间上下文学习状态传递

This study investigates the methodological and theoretical properties of session handover in applications that use large language models. A task may continue in a new session when the context reaches the model's input limit, when the application restarts, or when another agent is asked to finish the task. The application must then decide which information from the earlier session to pass on. We formulate handover as the transfer of a task-relative in-context learning (ICL) state and distinguish exact recovery of earlier material from preservation of the target distribution. Under an exogeneity condition, predictive equivalence characterizes the coarsest deterministic sufficient handover and gives a fixed-length bit requirement. The analysis isolates the effects of the memory constraint, th

AI 解读论文

探讨跨会话上下文学习状态传递的方法和理论特性。

核心方法
通过定义会话传递为任务相对的上下文学习状态转移,研究精确恢复早期材料与保持目标分布的区别,在外生性条件下,使用预测等效性来表征最粗略的确定性足够会话传递。
适合谁读
研究者、工程师
要解决的问题
当上下文达到模型输入限制或应用重启时,如何在新会话中有效传递任务相关的上下文学习状态。
关键实验
未提供
主要贡献
提出了跨会话上下文学习状态传递的理论框架,明确了记忆限制对模型表现的影响。
意义与局限
为大型语言模型在跨会话应用中的有效使用提供了理论基础,但未进行实验证明。
领域:cs.AI作者:Masahiro Kato、Taka Kato
相关推荐

本站内容由 LLM 精选聚合,原文版权归 arXiv 所有 · 摘录仅供参考