韩国Cafe24推出LLM路由器,连接超过120种生成式AI模型
维度网讯,韩国Cafe24近期推出了一款大语言模型(LLM)路由器,该路由器可连接超过120种生成型AI模型,并根据用户请求自动选择最适合编码、翻译、创作等任务类型的模型。

随着ChatGPT、Claude、Gemini、DeepSeek等生成型AI的“多宿主”(multihoming)现象扩散,用户需要亲自比较和选择模型,负担日益加重。Cafe24的LLM路由器通过一个应用程序接口(API)将这些模型整合在一起,旨在减少用户的决策负担。
服务运营者可根据任务类型、成本、响应速度、模型性能等标准来设定使用的模型,并支持在特定模型发生故障时自动切换到事先指定的其他模型,从而确保任务执行的连续性。
生成型AI市场出现了“选择的悖论”,即选项增多可能导致决策延迟或选择后满意度降低。每种AI的优势不同,用户根据翻译、搜索、编码等任务目的交替使用多种服务,但比较模型和重复输入相同问题的过程拉长了决策时间。Cafe24推出LLM路由器的目的正是为了解决这一问题,让用户无需纠结于选择哪个模型,而是专注于任务本身。
据韩国科学技术信息通信部“2025年附加通信业务实况调查”显示,53.2%的生成型AI用户同时使用两种以上服务,多宿主模式已经普及。在海外,连接和中介AI模型的服务已率先形成市场,如2023年成立的OpenRouter通过一个API提供70多家AI企业的400多个生成型AI模型,据悉其每月处理超过100万亿个token,全球用户超过1000万。

Cafe24正以LLM路由器为切入点,进入韩国国内的生成型AI中介市场。其目标是提供根据任务目的、成本、速度、性能自动分配模型的环境,通过模型自动选择和故障时自动切换功能,提高生成型AI服务的运营效率和稳定性,帮助用户专注于要执行的任务本身。
本文来自全球互联网及战略合作伙伴信息的编译与转载,仅为读者提供交流,有侵权或其它问题请及时告知,本站将予以修改或删除,未经正式授权严禁转载本文。邮箱:news@wedoany.com
最新简讯
相关视频
相关推荐

快思聪为西班牙巴萨10亿欧元球场部署140+房间音视频系统
2026-07-22

韩国AI基本法施行令生效 要求公共部门优先采购AI产品
2026-07-22

巴西戈尔航空借助微软云将机队设备更新时间缩至三天
2026-07-22

微软合作伙伴SIS为英国设施服务商OCS部署Construct 365成本模块
2026-07-22

俄罗斯国家海港管理公司完成2300用户文档系统国产化
2026-07-22

美国American Binary获认证,其VPN协议通过120项安全属性验证
2026-07-22

印度SunTec India推出电商价格监控平台 匹配率超99%
2026-07-22

印度Redington与AutomationEdge达成战略合作 加速企业自动化
2026-07-22

德国技术公司TeamViewer在其DEX平台集成AI驱动脚本功能
2026-07-22

韩国网络安全公司GITSN推出Alpha-H硬件安全方案应对无线后门攻击
2026-07-22
