AI 精选动态
智能评分 62
Confidential Inference via Trusted Virtual Machines
AI 推荐理由
如果关心推理侧数据隔离、受信执行和模型权重防护，这篇报告值得看原文，尤其是其把 confidential computing、TPM attestation 和 accelerator 访问控制串成一套推理架构的设计思路。核心解读
Anthropic 与 Pattern Labs 发布了一份关于 Confidential Inference 的报告，解释如何通过 confidential computing 和 trusted virtual machines 处理加密数据，并证明数据只会在可验证的受信环境中被读取。文中给出两类用途：一是保护 Claude 等 frontier model 的 model weights 安全，二是保护用户敏感数据；同时提到该方案仍处于早期研究阶段，尚不足以预测未来会形成哪些具体设计或产品功能。技术实现上，Anthropic 设想将 Inference Server 拆分为运行在受 hypervisor 隔离的 trusted VM 中的小型 trusted loader，以及运行在 untrusted side 的其余系统，loader 负责解密输入、调用 accelerator 并返回加密结果；受信环境依赖 encrypted memory、禁用 debugging、以及 TPM 提供的 cryptographic proof，且目前还存在与 accelerator 共享 encrypted host memory 的能力缺口。