为什么开源模型都是 · 7B、9B、27B、32B？

本地部署模型时，你是否好奇过为什么参数总是7B、9B、27B、32B？这些数字并非随意，而是由显存限制、架构计算和行业默契共同决定的。本文带你拆解参数背后的三层逻辑，看懂开源模型的尺寸密码。 昨晚在本地部署模型，页面上一排名字：7B、9B、27B、32B…… 我忽然愣住：为什么都是这些数字？ 不是 6B，不是 10B，不是 25B，偏偏是 7、9、27、32。像是大家约好了一样。 01 显存划的线 第一个冒出来的念头：显存。 本地跑模型，最绕不开的就是显卡。8G、12G、16G、24G，市面上消费级显卡基本就这几档，而模型参数是要占显存的。1B 参数，FP16 精度大约 2GB；量化到 4bit，大约 0.5GB。 算一下大概就有感觉了：7B 量化后约 4GB，8G 卡能跑；9B 约 6GB，8G 卡也能跑；27B 量化完 17GB 上下，24G 卡能跑；32B 量化完 20GB 以上，

原文：人人产品经理