韩国 LG U+将进军 AI Token 业务 自研技术降低企业 AI 转型成本

韩国电信运营商 LG U+宣布将于明年进军 AI Token 业务,利用自主研发的 Token 优化技术帮助企业降低 AI 转型成本。随着其加入,韩国三大电信运营商将全部进入 Token 经济领域。

该服务包含三项核心技术:设计 Agent 任务执行路径的 Harness Engineering、按问题类型分配模型的智能路由,以及采用异构半导体优化推理的芯片组合。

技术应用方面,LG U+自研端侧 AI 模型体积缩小三分之一,性能仍达通用云端模型的 95%以上;通过小模型快速生成答案、大模型验证的方式,Token 生成速度提升两倍以上。

基础设施方面,该公司将英伟达、AMD GPU 与韩国本土企业 FuriosaAI 的 NPU 结合,分别处理问题分析与答案生成任务,降低基础设施成本,明年起全面进军 B2B 市场。

推广DomoAI
文中提及的 AI 工具

评论

正在加载评论…