人工智能实验室 Underdog AI 发布量化语言模型 Saluki 27B。该模型基于 Qwen3.8-27B 进行 2-bit 量化调优,面向智能体应用场景设计,文件大小仅 7.89GB。
模型仅保留文字输入输出能力,采用标准 llama.cpp 格式,无需自定义编译即可在相关应用程序中直接加载运行,部署门槛较低。
Underdog 表示,Saluki 擅长日常推理和工具使用,数学表现相对逊色。其工具选择和多工具并行调用能力甚至优于全尺寸的 Qwen3.8-27B。
该模型现已在 HuggingFace 平台开放,低硬件需求为本地运行智能体应用提供了新的选择。
文中提及的 AI 工具
评论
正在加载评论…