维度网讯,俄罗斯基础设施软件开发商阿斯特拉集团(Группа Астра)推出博茨曼AI(Боцман AI)平台,该平台可在企业安全内部网络中运行语言模型及其他人工智能模型,确保数据不向外部云服务泄露。

博茨曼AI是博茨曼(Боцман)平台的逻辑扩展,后者是基于Kubernetes的国产容器编排解决方案,属于Astra Dev Platform的一部分,专注于构建内部开发平台并在隔离或受监管的基础设施中运行应用。
企业有使用语言模型的强烈需求,但信息安全要求、监管限制及内部政策往往禁止将数据传输至外部服务。自行部署模型通常需要为每项任务启动单独的基础设施项目,包括选择运行时、配置GPU、加载权重、配置端点和监控。博茨曼AI接管了这些常规工作。
平台团队通过标准Kubernetes资源描述模型进行配置,系统自动完成权重存储准备并启动所需引擎的运行时,包括vLLM、Ollama、SGLang或FasterWhisper,随后通过统一网关发布模型。更新机制在更新期间不产生不可用窗口,这对于处理昂贵的GPU基础设施尤为重要。
应用开发人员获得兼容OpenAI的API,无需重写现有代码,只需更改服务地址,应用即可继续与部署在企业内部网络中的模型配合工作。平台还提供一系列工业级工具,包括内置负载自动缩放、计费系统、具有预算控制的API密钥管理,以便在团队和项目之间透明分配资源。安装过程通过博茨曼Apps & Marketplace以Helm chart形式完成。
博茨曼平台(隶属阿斯特拉集团)技术总监米哈伊尔·科比克(Mikhail Kobik)表示,该平台让俄罗斯企业能够像使用公共云服务一样便捷地使用现代语言模型,但完全在自身内部网络中运行,从而保留数据主权、可预测的成本,且不依赖国外供应商。其独特之处在于将AI模型部署从复杂的基础设施项目转变为任何平台团队都能执行的标准化Kubernetes操作。










