客户案例｜Zilliz Cloud 助力点石科技转型 AI 智能服务商

福建点石科技网络科技有限公司成立于2010年，是国家高新技术企业，阿里云、蚂蚁金服等大厂海内外生态合作伙伴ISV。在餐饮、零售、酒店、旅游、商圈的行业定制化服务化上有深厚积累，在境内外做了大量标杆性软件项目，如东南亚RWS圣淘沙、DBS银行、新加坡樟宜机场等项目，获得众多荣誉扶持资金和CGTN及多国政府官方新闻媒体报道，得到高度好评。

01.客户简介

经过10多年的努力和大量海内外标杆项目实践，点石科技聚合了海内外众多大语言模型，AI工具和AI应用强大能力，搭建了一整套从业务、数据（向量数据库）、AI智能、算法等协同的点石中台+AI应用的SaaS系统。如“爱晚亭”AI系统、“长江商学院”AI演示平台，“AI开店宝”等系列落地项目，帮助用户解决员工实际生产生活实现如智能客服/HR/智能销售等各种场景应用，或基于Agent进行流程再造等，真实帮助企业实现降本增效。

2023 年点石科技的系列AI产品陆续上线后，快速被市场认可，发展了众多的付费用户，不乏如长江商学院、顾均辉教定位，上海墨迹天气、新疆兆龙集团、湖南尔康药业、深圳魅动智能、广州国测规划等标杆或典型用户。点石科技也成功转型为AI智能服务商，成为AI赋能服务的头部应用平台。

02.应用场景

当前各大语言模型普遍面临的一个巨大挑战是用户结合企业自身数据知识训练输出结果时会出现“幻觉”现象。究其根本，除了数据训练或者模型选择的问题，更主要的原因大模型没有特定领域的知识，而当用户正好问到这个问题的时候，那大模型就会产生“一本正经的胡说八道”甚至“犟嘴”的情况。

目前业界被公认为解决大语言模型“幻觉”问题的方案是RAG（Retrieval-Augmented-Generation），而构建RAG的关键三要素是“LLM”+“向量数据库”+“Prompt”，以“爱晚亭APP”为例，此前点石科技在开发过程中，采用的是开源向量数据库Milvus，而随着业务的快速发展，技术团队将业务迁移上了由Milvus原厂Zilliz打造的全托管的Milvus向量数据库云服务Zilliz Cloud，这不仅大大减少向量数据库部署、运维的人力，从而专注于业务的创新和研发上，同时Zilliz Cloud丰富的功能能够同时满足业务ToB、ToC场景的多种需求。

满足多租户及数据安全的需求

1、海量ToC客户：ToC客户数量大但数据量相对较少，而每个客户要能独立地进行管理和查询。Zilliz Cloud的Partition Key方案可以完美的应对这样的特定场景：所有客户的知识库服务后台共享一个 Zilliz Cloud Cluster，Partition Key方案为每个用户提供一个Partition key 来实现寻址，可达到百万级租户的能力，它允许用户根据实际需求灵活地划分和管理数据，从而提高系统的可扩展性、灵活性和性能。

2、ToB客户：ToB客户对于数据隔离性要求高，希望自己的数据和其它客户数据隔离开。Zilliz Cloud为此类客户单独创建Cluster来管理私有知识，点石科技调用Zilliz Cloud提供的运维接口，为客户提供管理界面，客户无需登录Zilliz Cloud账号，即可查看资源消耗，按需扩容。

3、实现了RAG应用中的80%以上的问答召回率

在实现复杂的信息检索任务，如基于 RAG 的应用时，评估效果的标准通常会因具体任务和行业而异。点石科技在做客户服务聊天机器人时，技术团队针对RAG应用做了些测试：在没有采用RAG架构，也没有对数据进行训练时，回答虽然正确，但是过于简略，且召回率低于40%；而经过数据训练，答案基本正确，但是过于简略；当使用向量数据库之后，不仅可以看到其已经引用了正确的文档，回答正确且丰富。业务实际上线后，当前“爱晚亭”AI系统已经达到了80%的问答召回率，超过80% 的问答召回率则通常被认为是非常优秀的。

生态丰富，适合AIGC应用场景

Zilliz Cloud已经完成了与主流大语言模型框架、Embedding模型等的对接，如LLamaindex、Langchain、OpenAI、Cohere、Huggingface，因此点石科技在开发AI应用时可以直接在Zilliz Cloud平台上使用这些框架和模型，无需自己进行复杂的集成和配置工作，从而大大节省开发时间和成本。

此外，Zilliz Cloud还能够快速匹配点石科技“爱晚亭”AI系统的智能写作、智能办公场景等各种AI应用。

03.客户说

点石科技创始人兼CEO卢文胜表示：“Zilliz Cloud替代Milvus后，看起来，我们每月会新增一些向量数据库云服务的费用，但我们的运维成本降低了20-30%，同步得到Zilliz的及时响应和帮助，还是非常划算的！”

04.关于 Zilliz

Zilliz 作为向量数据库技术的开创者，推出的全球最受欢迎的的开源向量数据库--Milvus，受到了全球 5000 家以上企业用户的支持与青睐。2023 年，Zilliz推出了基于 Milvus 的全托管云服务 Zilliz Cloud。

截至目前，Zilliz Cloud 已实现全球 5 大云 16 个节点的全覆盖，是全球首个提供海内外多云服务的向量数据库企业，其企业注册用户已超过 40,000 家，付费用户遍及全球多个国家和地区，覆盖 AIGC 领域、电商、在线教育等场景。作为 AIGC 关键基础设施和 RAG 技术的基本组件提供商，Zilliz 完成了与全球头部大模型生态的对接，赋能大模型应用落地。