字节跳动自研推理芯片

字节跳动自研推理芯片

字节跳动正研发基于 Groq LPU 架构的自研推理芯片，该架构曾被 Nvidia 花约约 200 亿美元授权。该芯片将模型保存在芯片内部 SRAM 并跳过高带宽内存（HBM），以规避美国对 HBM 的出口限制，并与 InnoStar 合作在 TSMC 成熟制程工厂代工。