一句话判断
反共识发现:强制 JSON 输出会显著降低模型回答多样性,值得在设计 prompt 时警惕。
核心信息
一份论文测试44个模型发现,要求输出JSON或XML格式会降低模型回答多样性,正常对话中最热门答案出现率41%,JSON时升至64%。
原始内容
注意!如果你希望大模型的回答有丰富的多样性。
千万不能要求输出 JSON 或 XML 这种格式。
刚读到一篇论文,测试了44个模型得出的结论。
JSON 和 XML 是结构化输出的标准格式。
模型在后训练阶段接受了大量这类数据强化,这套模式天然倾向于给"标准答案"。
论文见评论区 https://t.co/rXmsPBUnzl

向阳乔木 (@vista8): 如果你要求大模型 "随便说个词",44 个模型里最热门的答案是 serendipity,正常对话占 41%,换成 JSON 直接涨到 64%。
https://t.co/Iapd2X7Hif
相关动态
01
Kimi K3 模型发布(2.8万亿参数)
Moonshot AI在Hugging Face上发布了Kimi K3模型,拥有2.8万亿参数,需1.6TB硬盘空间下载。
观察
02
要求JSON输出会降低大模型多样性
一项针对44个大模型的测试发现,当要求模型用JSON格式输出时,回答多样性显著降低,最热门词"serendipity"出现频率从正常对话的41%增至64%,建议避免使用JSON/XML格式以获取多样性。
观察
03
技术突破:Telstra Starlink直接覆盖服务扩展到澳大利亚
Telstra 扩展了其 Starlink Direct to Cell 服务,使澳大利亚客户可在无地面网络覆盖区使用 iMessage、Google Maps 等选定应用,实现移动端通信普及。该服务最初针对 SMS,现已扩展至多款现代应用,标志着卫星通信覆盖能力的显著提升。
值得跟进
04
SSI 🤝 NVIDIA
SSI 宣布与 NVIDIA 合作,将在未来12个月内将算力提升10倍,并获得 NVIDIA 的大额投资
观察
05
Starlink 成为主流家庭互联网选项
Starlink通过主打家庭互联网服务扩展市场,今年首次被用户与有线光纤、固定无线等传统网络选项并列比较。该服务覆盖全球160+国家市场,活跃用户量达1200万以上。 typed 网络提供商Tomás Novosad强调其现已成为灵活性和替代性选项,而非单纯针对偏远地区客户。
值得跟进