DeepAdapt 推出 Runtime 智能层，AI 运行成本降 82% 推理加速

DeepAdapt 推出 Runtime 智能层，AI 运行成本降 82% 推理加速

DeepAdapt 发布了名为 Adaptive Continual Intelligence（简称 ACI）的运行时智能层，可将重复任务从 GPU 卸载到 CPU，从而将 AI 运营成本降低高达 82%，推理速度提升 33 倍。 ACI 提供的数据显示，令牌消耗降低 90%，生产成本下降 5.7 倍，中位延迟为 159 毫秒，准确率从 85% 提升至 96%，每 1000 次决策的能耗降低 85.7%，规则违规次数减少 4.8 倍，且 89.8% 的决策无需 GPU 处理。 与无 ACI 方案相比，DeepAdapt 的技术无需任何训练即可上线，从首次请求起便通过实时学习和审计持续优化，使 GPU 依赖和能耗随系统成熟而下降。