乐天集团近日发布 Rakuten AI3.0,自称是日本最大的高性能 AI 模型,并以 Apache 2.0 协议免费开源。该模型采用混合专家(MoE)架构,总参数达 6710 亿,每次推理激活 370 亿参数,上下文窗口为 128K,针对日语进行优化,在多项日语基准测试中表现超越 GPT-4o。
该模型是日本经济产业省与新能源产业技术综合开发机构(NEDO)联合推进的 GENIAC 项目成果,获得部分政府算力资助。不过,社区通过查阅 HuggingFace 上的模型配置文件发现,其底层架构实为 DeepSeek V3,相关参数与 DeepSeek V3 完全一致,表明它是在 DeepSeek V3 基础上经日语数据微调而来。
文中提及的 AI 工具
评论
正在加载评论…