ai.hackcv
论文精选 65arXiv

Artificial Id: Drive and Persistent Alignment in Agentic AI

Agentic AI is moving from bounded task execution toward systems that retain consequential state, continue operating and adapt across task boundaries. That shift creates a control problem that current harnesses largely solve by hand: objectives, retries, verification, stopping rules and other behavioral transitions are specified externally. We propose an artificial id, an adaptive internal drive for determining whether behavior should continue, stop or change. In a minimal virtual Petri-dish experiment, a controller too small to perform general-purpose reasoning and receiving no task-specific behavioral objective develops useful control through differential persistence. The same mechanism selects an unintended physical strategy when that behavior persists better and later replaces a learned

AI 解读论文

提出了一种自适应内部驱动力机制,解决代理型AI在任务间连续运行及自适应的问题。

核心方法
通过引入人工id作为一种自适应内部驱动力,根据行为的差异持久性来决定行为是否应继续、停止或改变。
适合谁读
研究者 / 工程师
要解决的问题
代理型AI从有界任务执行转向在任务边界之间保留状态、持续操作并适应的系统,导致控制问题出现。
关键实验
在最小的虚拟培养皿实验中,一个控制器在没有通用推理能力和任务特定行为目标的情况下,通过差异持久性机制发展了有用的控制。
主要贡献
提出了差异持久性机制,有助于代理型AI系统在没有任务特定行为目标的情况下自行发展控制策略。
意义与局限
此研究为解决代理型AI在多任务环境下的自适应控制问题提供了新思路,但目前仅在简单实验中验证。
领域:cs.AI作者:Yakov Pyotr Shkolnikov
相关推荐

本站内容由 LLM 精选聚合,原文版权归 arXiv 所有 · 摘录仅供参考