维度网讯,Naver Cloud理事李基昌(Lee Ki-chang)在2日于首尔江南区举行的Tech Deep Talk session上表示,其AI Tab对话式搜索服务已应用基于HyperCLOVA X开发的产品原生LLM(Product Native LLM),并称Naver的目标是在服务能力上占据明确优势,基本能力保持超越竞争对手的水平,专业能力则尽量缩小与全球前沿最高水平的差距。
AI Tab是Naver于上月26日正式推出的对话式搜索服务,能够理解用户搜索意图和语境提供答案,并连接至购物、地点搜索等实际行为。此次产品原生LLM将Naver的数据、服务场景和用户反馈全面反映在模型设计中。

该模型以数据、架构、训练三大支柱为中心开发。通过文档质量过滤器提高学习数据质量,并构建“非型数据收集流水线”(비스형 데이터 수집 파이프라인),在预训练阶段反映搜索、购物、场所、生活信息等领域的数据。架构方面引入MoE(混合专家)结构,确保比原有HCX(HyperCLOVA X)更快的响应速度和更高的吞吐量,端到端延迟(E2E Latency)得以缩短。该模型将计算量改进为与输入长度线性正比,在长上下文中保持稳定响应速度和高吞吐量。

训练阶段投入强化学习的计算资源较原有HCX扩大两倍以上,新应用明确性强化学习(Clarify RL)技术,对无法回答的问题通过追问额外条件给予奖励,改善幻觉现象。自策略蒸馏(OPD,On-Policy Distillation)技术也一同应用,正在训练的模型自行生成的回答由高性能模型以令牌(token)为单位进行修改,有效补充薄弱专业领域能力,并且具有持续改进的结构:随着高性能模型性能提升,正在训练的模型也随之增强。
在Naver综合评估AI Tab所应用模型的“搜索·购买·预订”等执行质量的自身基准(benchmark)结果中,服务能力得分为108分,高于竞争对手平均分100分和竞争对手最高分106分。指令执行和日本工具调用等基本能力获得104分,超过竞争对手平均分100分。解决博士级科学问题的专业能力获得97分,略低于竞争对手平均分100分。李基昌理事说明,基本和专业能力如果投入精力也能努力追赶,战略上决定在服务相关能力上更集中投资。
现场Naver还公开稳定驱动AI Tab的核心技术“控制工程”(Harness Engineering),分四个步骤运行:理解用户意图及管理长对话上下文、搜索·购物·场所等服务关联推理、提供来源及执行连接。
Naver提出以应用于搜索栏的Smart Lens为中心向多模态智能体(Multimodal Agent)进化的愿景。自2017年推出Smart Lens提供图像搜索服务以来,经过2022年图像与文本结合的复合搜索,去年推出执行图像理解与摘要的Smart Lens X AI Briefing,不断进行技术升级。

Naver的尹相斗(Yoon Sang-doo)组长表示,目前Naver AI智能体主要基于文本输入,但未来将进化为通过图像理解意图并连接实际行为的多模态智能体方向。










