品玩10月29日讯,据 venturebeat 报道,IBM今日发布四款Granite 4.0 Nano新模型,参数规模仅3.5亿至15亿,远小于OpenAI、Anthropic、谷歌等厂商面向服务器的同类模型。
该系列模型具备高可获取性:3.5亿参数版本可在配备8-16GB内存的现代笔记本CPU上流畅运行;15亿参数版本通常需至少6-8GB显存的GPU,或足够系统内存与纯CPU推理交换空间。Hugging Face机器学习工程师、Transformer.js创建者Joshua Lochner(Xenova)称,最小参数版本甚至可在浏览器本地运行,适合开发者在消费级硬件或边缘端开发应用,无需依赖云计算。





0 条评论
请「登录」后评论