韩国Cafe24推出LLM路由器,连接超过120种生成式AI模型
2026-07-22 17:04
收藏

维度网讯,韩国Cafe24近期推出了一款大语言模型(LLM)路由器,该路由器可连接超过120种生成型AI模型,并根据用户请求自动选择最适合编码、翻译、创作等任务类型的模型。

/在ChatGPT帮助下制作的图片。

随着ChatGPT、Claude、Gemini、DeepSeek等生成型AI的“多宿主”(multihoming)现象扩散,用户需要亲自比较和选择模型,负担日益加重。Cafe24的LLM路由器通过一个应用程序接口(API)将这些模型整合在一起,旨在减少用户的决策负担。

服务运营者可根据任务类型、成本、响应速度、模型性能等标准来设定使用的模型,并支持在特定模型发生故障时自动切换到事先指定的其他模型,从而确保任务执行的连续性。

生成型AI市场出现了“选择的悖论”,即选项增多可能导致决策延迟或选择后满意度降低。每种AI的优势不同,用户根据翻译、搜索、编码等任务目的交替使用多种服务,但比较模型和重复输入相同问题的过程拉长了决策时间。Cafe24推出LLM路由器的目的正是为了解决这一问题,让用户无需纠结于选择哪个模型,而是专注于任务本身。

据韩国科学技术信息通信部“2025年附加通信业务实况调查”显示,53.2%的生成型AI用户同时使用两种以上服务,多宿主模式已经普及。在海外,连接和中介AI模型的服务已率先形成市场,如2023年成立的OpenRouter通过一个API提供70多家AI企业的400多个生成型AI模型,据悉其每月处理超过100万亿个token,全球用户超过1000万。

Cafe24 LLM路由器运行示例。/图片提供=Cafe24

Cafe24正以LLM路由器为切入点,进入韩国国内的生成型AI中介市场。其目标是提供根据任务目的、成本、速度、性能自动分配模型的环境,通过模型自动选择和故障时自动切换功能,提高生成型AI服务的运营效率和稳定性,帮助用户专注于要执行的任务本身。

本文来自全球互联网及战略合作伙伴信息的编译与转载,仅为读者提供交流,有侵权或其它问题请及时告知,本站将予以修改或删除,未经正式授权严禁转载本文。邮箱:news@wedoany.com