官宣：Zilliz Cloud上线BYOC部署，为强合规监管行业带来开源与SaaS之外的第三种选择

自ChatGPT推出以来， AI 的应用格局发生了巨大变化。根据麦肯锡2024年全球AI调查报告，企业AI采用率已从2023年的50%提升至72%，其中超半数受访企业将AI应用于多个业务职能（2023年这一比例不足1/3）。

而在这些大力推进AI落地的企业中，向量数据库已成为技术栈的关键组件，Zilliz Cloud等SaaS服务也因其易用性成为主流选择。

然而，在金融、医疗等受严格监管的行业，合规要求显著提高了AI落地门槛。以医疗领域为例，49%的企业因数据隐私与审计限制，难以将生成式AI投入生产环境。

那么要如何解决这个问题呢？

01

强监管行业的AI落地难题

相信这个场景很多强合规监管行业的朋友可能不会陌生：

公司CIO 正在汇报 AI 试点项目的成果，一串“原型系统将客户服务响应时间缩短40%并提高准确性”的效果展示刚刚汇报完，台下“何时能将系统部署到生产环境”的提问刚一出口，满场鸦雀无声。

在多数行业，SaaS是最常用的部署方案， 不仅可以为我们提供公共API服务、大语言模型（LLMs）和托管的向量数据库，平台本身也会提供强大的开箱即用功能，几乎无需运维。

但对严监管行业来说：将数据存在供应商的云中、业务通过公共API来连接公共网络，往往并不符合监管的需求。

既然不能用SaaS，那本地部署呢？ 本地部署可以让企业实现完全的控制和合规。

但本地部署首先需要投入大量资源来建立专门的DevOps团队，用于管理本地部署、解决问题以及进行持续的维护。

但运维成本与风险往往太高，此外，随着AI技术的飞速发展，内部团队要跟上软件更新和新模型发布的节奏几乎不可能。而由于缺乏专业支持，企业在遇到生产问题时可能会面临延误和中断。

于是，有特殊合规要求的企业就这么夹在SaaS监管成本高、本地部署运维成本高的“AI困境”中，进退维谷。

02

BYOC: 第三条道路

BYOC（Bring Your Own Cloud）的概念并不新鲜，它的定位是应对强监管需求行业，提供介于传统SaaS和本地部署之间的一种折中方案，兼具托管服务的便捷性和本地基础设施的控制力与安全性。

然而，它的发展历程却喜忧参半。过去，很多供应商只是简单地将软件部署到客户生产环境中，没有进行合理的架构以及权限规划，比如，仅仅把数据托管在客户的本地环境，但供应商仍可以登录客户账户进行故障排查，导致最终的BYOC变成了远程管理本地环境，成了“一个架构上的死胡同”。

03

重塑 BYOC 以适应 AI 应用

但这并不意味着BYOC就要被彻底放弃。

随着企业AI应用的兴起，新一代BYOC架构可以通过明确分离控制层和数据层，有效解决了以往的不足。

在这种模式下，所有业务逻辑和数据处理都保留在客户的私有网络内，而供应商的控制层仅负责管理资源调度和系统升级等操作任务，且无权接触敏感数据。

这种架构不止在客户的虚拟私有云（VPC）中部署软件，还会对以下功能做重点设计：

1.数据主权在客户网络内：所有数据处理和数据流动都严格限制在客户的VPC内，确保对数据的绝对掌控。

2.以安全为基石的架构：安全不是事后补充，而是从一开始就融入整个架构设计的核心原则。

3.有限且受控的供应商权限：供应商的访问权限仅限于客户授权的操作范围，且仅在必要时进行访问，所有操作都会被完整记录。

4.完整的运维可视化：系统会详细记录控制层与数据层之间的所有交互，尤其是故障排除期间的详细审计日志。

04

Zilliz的 BYOC 解决方案

Zilliz开发了一种专门为向量搜索设计的BYOC解决方案，以满足特殊行业的企业级安全需求。该架构将系统操作划分为两个独立的部分：控制层和数据层。每个部分都服务于特定的用途，同时保持安全可控。

2.24-1.png

管理与数据完全分离

由 Zilliz 管理的控制层充当调度，负责资源调度、系统升级等任务。它主要负责监控系统的健康状况并管理基础设施，但绝不会接触实际数据。数据层则完全运行在客户的 VPC 和云账户内，确保客户应用服务器与向量数据库之间的通信仅限于客户的 VPC 内。所有数据无论是在传输中还是在静止状态下都通过行业标准的加密技术进行保护。

企业级网络安全

为满足企业网络安全需求，管理层数据会被加密且仅从数据层单向传输到控制层，进而防止供应商直接访问客户的VPC。同时，通过支持AWS PrivateLink，该方案可以确保控制层与数据层之间的通信安全，且不会暴露在公共互联网上。此外，该方案会使用TLS 1.2+通过443端口/HTTPS，且默认情况下只能由客户的数据层发起。

细粒度的访问控制

细粒度的访问控制与细粒度的权限设置，可以确保对控制层的最低访问权限。跨账户IAM角色管理客户云账户内集群的每一项权限，已遵循最低权限原则，并将其访问权限限制在特定资源或客户定义的资源标签上，防止暴露客户云账户内的其他数据。

按需的供应商访问与审计日志

供应商对用户数据层进行故障排除时，需要经过客户的同意，并受到严格管控。所有访问细节——包括身份验证信息、执行的操作、授权、上下文信息、所做的更改以及任何异常或可疑活动——都被彻底记录并持续监控。Zilliz的安全团队会定期进行审计和风险评估，以确保符合安全标准并消除任何潜在问题。

整体来说，BYOC 方案让企业能够在确保严格合规的背景下推进AI创新，又能利用生产级的向量搜索能力，而不影响对数据和系统的控制与安全。

05

展望未来

虽然企业级的AI部署并不存在万能的解决方案，但BYOC模式提供了一个相对实用的中间路径。

这种模式使企业既能利用托管的AI服务，又能让他们在受监管行业中保持合规所需的控制权与安全性。

随着各行业AI应用持续加速推进，对于那些希望在创新与严格的安全合规需求之间寻求平衡的强监管合规需求行业而言，BYOC方案将变得至关重要。