发生了什么
OpenSquilla发布开源AI智能体运行时,通过上下文复用和路由策略将token成本降低80%,在本地测试中实现了近乎免费的长期会话处理。
为什么值得关注
提供可验证的token成本优化方案,结合ML路由器和缓存机制,适合开发者部署长期运行的智能体场景。
信息来源
以下内容来自公开来源,可打开原文继续核验。
OpenSquilla发布开源AI智能体运行时
OpenSquilla发布开源AI智能体运行时,通过上下文复用和路由策略将token成本降低80%,在本地测试中实现了近乎免费的长期会话处理。
打开原始来源 ↗谷歌正在为其Gemini AI系列准备一个名为Gemini Spark的新代理版本
谷歌正在为其Gemini AI系列准备一个名为Gemini Spark的新代理版本,该版本将在即将举行的Google I/O会议上发布。Gemini Spark将能够处理用户的日常任务,如邮件分类、在线任务处理等,并能够访问用户的连接应用、聊天记录、网站登录信息等,以更好地理解用户需求并执行任务。
打开原始来源 ↗