-
【AI快讯分析】全新亮相:Zamba2-mini,顶尖端侧开源AI模型,携12亿参数,4bit量化技术实现内存需求低于700MB
【原文大意】来源:网上搜集Zyphra 最近宣布推出 Zamba2-mini 1.2B 模型,这是一个拥有 12 亿参数的小型语言模型,特别优化用于端侧应用。该模型在 4bit 量化下内存占用低于 700MB,被宣称是当前最先进(SOTA)的小型语言模型。尽管尺寸较小,Zamba2-mini 1.2B 在性能上能与包括谷歌、Huggingface、苹果和微软在内的大型模型...