AWS开源博客于2026年10月23日发布消息，宣布以Apache 2.0许可证开源Infinity，这是Hydro项目的一部分，合作方包括AWS与加州大学伯克利分校。该项目针对智能体在调用工具、等待构建任务或外部审批时长期占用进程和内存的问题，尝试改变传统的阻塞式运行方式。AWS发布公告
Infinity的核心机制是“挂起—恢复”。智能体发起工具调用后，运行时派发请求、保存对话状态并暂停当前执行；工具结果返回后，再从已保存状态恢复智能体。一次执行被拆成有界的切片：运行模型生成、持久化输出，并最多派发一个工具调用，切片结束后不再为等待中的外部操作保留活跃进程。AWS技术说明
这种设计把等待中的智能体转化为持久化历史和队列消息，理论上可以减少长时间任务对常驻进程、线程和连接的依赖。AWS文章称，在使用模拟模型、内存存储和单线程AMD EPYC处理器的测试中，80,000个智能体执行了总计320万次模型补全，空闲智能体的内存占用约为100 KB；按该测试速率推算，8 GB内存的树莓派5可容纳约75,000个并发智能体。这个数字属于项目方特定基准结果，不等同于真实业务环境中的可用规模或成本承诺。AWS基准说明
Infinity还提供面向无服务器部署的步骤模式。AWS给出的参考架构使用SQS FIFO队列传递输入消息，以Lambda执行单个步骤，并将对话历史、去重状态分别放在持久化存储中。这样，智能体等待数小时甚至数天的工具结果时，可以不保持持续运行的函数实例。不过，这种架构仍需处理至少一次投递、消息幂等、状态持久化、模型输出中断和同一会话内的顺序一致性等工程问题。AWS参考部署说明
目前更适合把Infinity看作运行时方向的研究性开源实现，而不是已经验证成熟的生产平台。其价值在于把智能体的扩展瓶颈从“维持多少个活跃进程”转向“如何可靠管理状态、事件和恢复顺序”；后续仍需观察真实工具延迟、模型调用成本、故障恢复复杂度以及与现有智能体框架的兼容性。
参考来源：
由 AI 整理，仅供参考；请以原始来源为准。
