谷歌发布了基于扩散机制的开放 AI 模型 DiffusionGemma,相比自回归模型在本地推理速度上提升 4 倍。该模型从噪声中逐步去噪生成输出,并行处理所有 token,在本地低带宽环境下具有显著的推理优势。
DiffusionGemma 采用 Apache 2.0 许可证开源,可从 Hugging Face 下载。模型支持迭代优化,能在生成过程中纠正错误,采样速度达 1479 tokens/秒,开销仅 0.84 秒。在 LiveCodeBench 达 30.9%,HumanEval 达 89.6%,与 Gemini 2.0 Flash-Lite 互有胜负。
数学能力表现亮眼,AIME 2025 取得 23.3%,超越对比模型的 20.0%。但在科学推理 GPQA Diamond 仅 40.4%,低于对比模型的 56.5%。在单块 H100 GPU 上生成速度达每秒 1000 个 token,DGX Station 上可达每秒 2000 个 token。
文中提及的 AI 工具
评论
正在加载评论…