用户案例

用户案例|Milvus 助力 Credal.AI 实现 GenAI 安全与可控

2023-12-07
Zilliz

Zilliz

用户案例|Milvus 助力 Credal.AI 实现 GenAI 安全与可控

AIGC 时代,企业流程中是否整合人工智能(AI)对于的企业竞争力至关重要。然而,随着 AI 不断发展演进,企业也在此过程中面临数据安全管理、访问权限、数据隐私等方面的挑战。

为了更好地解决上述问题,Credal.AI(以下简称 “Credal”) 提供的解决方案使组织能够在释放生成式人工智能(GenAI)潜力的同时降低其风险。Credal 解决方案的核心向量数据库 Milvus,在 Milvus 的加持下,Credal 能够更好地实现其企业愿景——【打造安全且实用的 AI】 。

01.Credal:GenAI 与企业数据安全间的桥梁

Credal 的目标是使企业能安全且方便地使用 GenAI。为此,Credal 提供了强大的数据集成和治理功能,能从 Microsoft Office、Google Workspace 以及 Slack 等多种平台中拉取数据。他们推出了类似于“Okta 的 AI 版本”,从而严格管理访问和权限,以便为开发者和终端用户提供一个流畅且安全的接口。因此,Credal 成为一个端到端的解决方案,支持安全、企业级的 GenAI 部署。

从用户的角度来看,他们无需精通编码或复杂的算法便可利用大量数据,发挥 GenAI 的力量。用户能够使用 Credal 创建代理,确保能够最大化利用 GenAI 技术。

对于管理员和 IT 团队,Credal 提供了监控数据和管理工具,包括强制根据使用条款实施、审计跟踪、日志记录、数据目录和数据治理等功能。这些功能都是在大型企业中高效部署 GenAI 的关键部分。用户可以通过 Credal 的聊天界面或 API 使用诸多重要功能,如 PII 删除、审计日志、数据访问控制等。

02.Credal 痛点:缺乏生产就绪的向量数据库

在 Credal AI 产品开发的初期阶段,公司遭遇了多个挑战。其中一个核心功能是语义搜索,但发现使用基本的向量搜索插件在大规模实现这个功能颇为困难。当语义搜索被嵌入到需要高数据库性能的定制工作流中时,这些挑战变得更为严重。为了构造这些由 GenAI 驱动的工作流,需要对传统的搜索机制进行改进,因为这些工作流需要根据复杂、用户定义的标准实时处理大量数据集。

另外,由于拥有多种托管环境,包括云基础设施和现场部署,Credal 需要有一个可以自我托管,且得到活跃开源社区支持的向量数据库,一个快速、可扩展且多功能的数据库,以应对复杂的数据管道和多种托管条件的需求。而在进行技术选型的过程中,Credal 发现市面上有许多向量数据库解决方案,但都无法满足其企业级的需求。

03.选择 Milvus:以开发者为核心的全能向量数据库

经过对众多市面上主流的向量数据库的评估,评估指标包括:是否支持自托管、可扩展性、是否拥有庞大的社区。

Milvus 在评估中脱颖而出。Milvus 在 GitHub 上获星超过 24 K,拥有高度活跃的社区,且处于不断迭代的过程中,高频推出新功能。

首先,Milvus 不断升级的特性是 Credal 考虑的重点,特别是其混合搜索功能,能够在执行向量搜索的同时过滤其他元数据。尽管许多解决方案提供了快速的向量搜索,但在处理结构化数据方面却显得力不从心。Milvus 的混合搜索能力完美解决了这一技术缺口,解决了实际的商业问题。

其次,Milvus 为 Kubernetes 提供的官方 Helm Chart 同样是 Credal 考虑的重点。尽管自定义 Helm Chart 不是难事,但官方支持的 Chart 却体现了 Milvus 对开发者成功的承诺。Credal 认为这体现了 Milvus 团队不追求短期利益,而是致力于解决用户面临的实际挑战。尤其是对于 Credal AI 这样的初创企业来说,这种支持极为宝贵,Milvus 可以帮助他们简化部署流程,节省时间和工程资源。

再者,Milvus 从架构设计上,将计算和存储分离,因此具备高度的灵活性和可扩展性。与单节点的数据库架构不同,Milvus 的架构支持灵活扩展,从而应对不断变化的需求。

Credal 联合创始人兼首席技术官 Jack Fischer 强调了这种架构设计的优越性:“刚开始搭建平台时,我们并不能确切知道后续的访问模式会是什么样的。随着我们的产品发展,访问模式肯定会随之变化......所以,我们很庆幸采用了 Milvus 这种存储和计算分离的向量数据库。无论我们如何发展产品,Milvus 能够满足我们的业务需求,我们对此充满信心。”

04.结果:Milvus 助力 Credal 搭建高效、可扩展的平台

对于 Credal AI 来说,采用 Milvus 无疑改变了整个游戏局面,为他们复杂的向量搜索需求提供了坚实的基础。Milvus 的技术能力迅速消除了他们对数据库性能的初步疑虑。在创业公司常面对不断变化需求的场景中,Milvus 既是即时的解决方案,也展现出长期的价值。

选择 Milvus 的决定得到了验证,它完美融入了 Credal AI 的现有系统,不仅满足了技术的前提条件,还实现了更广泛的商业目标。由于其分离的存储和计算架构,使得平台具有很高的可扩展性,这让 Credal AI 有信心预见并适应不断出现的客户需求。这也让 Credal 能够集中精力做它最擅长的事:不断优化其核心产品并促进用户参与度。他们完全放心,无论面对什么样的需求,其后端都能够应对自如。

Fisher 表示:“在我们需求的文氏图中,处在最中间的就是 Milvus,它集所有需求的交集于一身。这点是其他向量数据库都比不上的。如果只需要其中一两点功能,那可以考虑别的向量数据库。但如果需要所有功能,必然选择 Milvus。”

05.未来合作:与 Zilliz 共绘蓝图

借助 Milvus,Credal 能够为客户提供可扩展、易于使用的解决方案,而无需从头开始自行研发向量搜索解决方法。此外,使用 Milvus 并不会带来额外的运营开销。Milvus 的可扩展性和稳定性确保了 Credal 平台能够随着业务发展灵活扩展。

目前,Credal 正考虑未来与打造 Milvus 的原厂 Zilliz 合作,利用 Zilliz Cloud 为其云上客户提供服务。Credal 的公司使命和愿景是持续努力将 GenAI 功能整合到实际企业应用中,这就需要强大的安全保障和全面的数据治理。Zilliz Cloud——全托管、开箱即用的 Milvus 服务,非常契合 Credal 的商业战略,能够助其简化运营流程,优化云上客户的体验。关于未来的合作,我们拭目以待!