A small number of samples can poison LLMs of any size

A small number of samples can poison LLMs

Anthropic、UK AI Security Institute 和 Alan Turing Institute 的联合研究发现，在预训练阶段，只要注入 250 篇恶意文档，就能让大语言模型产生后门漏洞，适用于 600M 到 13B 参数模型。研究显示，13B 参数模型虽然训练数据量超过 600M 模型的 20 倍，但两者都可被同样数量的投毒文档攻破，说明攻击者未必需要控制训练数据的固定百分比，而可能只需固定数量的样本。作者强调，这项实验聚焦的是会触发胡言乱语输出的窄后门，风险未必直接外溢到更前沿模型，但结果表明数据投毒攻击可能比此前认为的更可行。