Parameter
/pəˈræmɪtər/参数跟读一遍
帕·拉·米·特
点「跟读」听中文慢速念法——记住这一串,开口不慌。
模型脑容量的度量衡,7B 就是 70 亿个参数。
人话解释
参数是模型内部的旋钮总数,常用 B(Billion,十亿)作单位:7B 就是 70 亿个参数。可以把它们理解为模型读完海量文本后沉淀下来的「脑细胞强度」。一般来说参数越大越聪明,但也更吃显存、跑得更慢、用起来更贵。挑模型看参数,就像买电脑看配置——合适最好,不必盲目追最大。另外同等参数量之下,训练数据的质量和训练方法往往更能决定真实水平。
例7B 像一台轻巧的入门笔记本,日常够用;百亿级像图形工作站,能干重活,价格和电费也都上去了。