本页内容受版权保护 · 已添加水印 · 禁止任何形式转载
§7.2.9

KV Cache 显存公式(2·L·B·S·H·D·bytes)?

手写练习
  • 给定 LLaMA-7B 参数算 8k 上下文 KV Cache 大小

LLM 大模型 · 付费章节

每个框架的第 1 节免费。要读后续章节,可单独解锁本框架,或一次解锁 4 个框架。

Pro 订阅 ¥49/ · 报名冲刺营 都包含解锁
相关题目