稳!Zilliz助力XTransfer基于RAG打造B2B外贸金融加速器
中小微企业是保持国民经济平稳快速发展的重要力量。根据联合国数据,中小微企业在全球企业总数中占比超过90%,为全球经济贡献了超过50%的GDP。XTransfer致力于为跨境贸易企业提供安全、高效、低成本的跨境支付及金融解决方案,让全球中小微企业惠享金融服务。
作为一站式外贸企业跨境金融和风控服务公司,XTransfer成立于2017年,深耕行业,以大数据驱动,通过人工智能等技术,服务覆盖全球200+国家及地区,致力于帮助中小微企业在全球范围内进行贸易往来,更便捷地管理跨境资金流动。现今,XTransfer已经服务超过五十五万家中小微企业,成为中国B2B外贸金融第一平台。
一墙之隔的缘分,三年的陪伴与成长
时间倒回到2022年,Zilliz公司开发的开源向量数据库Milvus被正式引入XTransfer,XTransfer在线智能客服系统“智能小秋”1.0上线,双方的合作拉开序幕。彼时,Milvus的主要使用场景还是纯语义检索,问答查询只能靠检索匹配。
“Milvus社区是极其活跃的,我也是其中一员,刚开始用的时候,有些功能还不够完善,我就在Github上提交issue,然后在下一个版本,发现需求就合入了,我还参与了多次社区分享。” XTransfer资深算法工程师马经纬回忆到,“在我们需要联系技术支持的时候,却惊奇地发现,Milvus产品的的母公司Zilliz与XTransfer的办公区仅有一墙之隔”。在那段时间里,XTransfer的技术人员带着电脑到Zilliz的办公室进行技术交流,成了一道独特的风景。
“XTransfer有业务场景,Zilliz有技术支持。三年的合作,可以说,Zilliz和XTransfer 是一起成长,相伴壮大的”,马经纬如是说。
顺势而为,拥抱大模型时代
2022年底,AI大模型异军突起,XTransfer顺势而为,投入了基于向量数据库+大模型的 RAG (Retrieval Augmented Generation)应用开发。在不到一年的时间里,XTransfer基于云上的向量数据库Zilliz Cloud,搭建起了一个企业级知识库中台,并基于这个中台能力,落地了丰富多彩的应用,除了让客服系统变得更智能之外,还有风控实时辅助、营销辅助以及内部管理辅助等特色能力也一步步搭建起来。而XTransfer在落地这些RAG应用的过程中,也在不断尝试向量数据库的新版本、新特性。
今年,XTransfer自研外贸金融大模型TradePilot正式落地,通过数据分析和人工智能技术,提高支付及金融服务的效率和安全性。该模型历经数轮迭代,结合大量业务数据和市场需求,采用了最新的大模型训练和微调技术,确保在风险管理、客户服务等方面具有卓越的表现。TradePilot对于外贸金融知识的理解能力与Zilliz Cloud的高效语义检索能力相得益彰,XTransfer的研发团队打造出了大模型时代B2B外贸金融领域的最“稳”加速器。
从 Milvus 到 Zilliz Cloud 云服务,更稳更安心
随着服务企业规模的扩大和业务的复杂化,XTransfer需要更稳定的企业级SaaS服务,来保障业务的稳定性并降低运维成本。Zilliz Cloud采用了多层次的企业级数据安全措施,包括隔离环境、数据保密、角色与权限控制以及数据备份和灾难恢复,确保数据的完整性和隐私。此外,Zilliz Cloud还通过了ISO/IEC 27001、GDPR和HIPAA等安全合规认证,满足严格的数据安全和隐私保护标准。因此XTransfer将最初依赖开源向量数据库Milvus的业务切换到了Milvus的全托管云服务--Zilliz Cloud上。
“之前是我们自行将开源Milvus部署在服务器上,当有新的业务上线或者变更时,内部会批量整理一批材料,进行大量数据的写入,数据膨胀得非常快,这会给服务器运维带来一定的压力。另外当遇到版本升级等问题时,我们还需要联系Zilliz的工程师来现场解决。后来我们用了云上的向量数据库Zilliz Cloud之后,就避免了这些问题,向量数据库上云后,稳定性得到很大的提升。我们遇到问题的时候,Zilliz的技术专家都可以在第一时间在线帮我们解决。”
相比于开源Milvus,Zilliz Cloud 提供了更好的可观测性,更易用的运维工具,包括一系列的监控指标及告警机制,以帮助用户了解业务集群当前所处的状况,更好地保障相关生产业务的稳定性和可靠性。
知识沉淀助力企业可持续发展
大模型时代,对AI知识库的建设提出了迫切的需求,大模型虽然拥有很强的基础能力,但对特定专业领域知识记忆能力有限,因此需要外接知识检索系统。 传统的知识管理方式已无法满足企业的需求。XTransfer 为了实现高效发展,必须将分散的知识汇集起来,体系化加工处理,形成企业的知识资产及专业岗位人才的知识储备。
需求与挑战:知识的高效检索
传统数据库基于精确匹配搜索搭建,但这种搜索方式无法涵盖上下文、语义和用户意图等信息。而向量数据库可以很好地解决这个问题。
XTransfer基于RAG(Retrieval-Augmented Generation)技术,将向量数据库Zilliz Cloud的强大向量检索能力与AI大模型的综合理解能力相结合。依托企业长期沉淀下来的知识资产构建AI知识库,实现了知识的高效检索和输出,并支持多种应用场景,包括智能问答、实时辅助、离线学习等,为业务提效发挥了极大的促进作用。
1.png
XTransfer 企业AI 知识库业务架构示意图
典型业务使用场景:
智能问答+实时辅助,助力行业专家炼成
2024年,随着业务从Milvus全量迁移至Zilliz Cloud,智能小秋也迭代到2.0版本。截至当前,7×24h在线的智能小秋已被调用数十万次 ,帮助中小微外贸企业客户解决了无数的疑难问题。借助于Zilliz Cloud及大模型构建的RAG能力,智能小秋2.0在语义识别和理解能力上实现了质的飞跃,而在XTransfer的客户服务体系内,大部分的咨询场景都可以通过智能小秋2.0得到解决。
2.png
XTransfer智能客服逻辑链路图
而当客户需要接入到人工客服的时候,知识库检索即刻发挥实时辅助作用。客服专员可以在与客户交流的同时,检索关联知识,高效、准确地回复客户的业务咨询,真正实现“从人工记忆到人机融合”。
风控工单审核助手-风控审核人员的Copilot
作为B2B外贸金融全功能平台,XTransfer的反洗钱风控审核坚持严格标准。
自成立以来,XTransfer自研打造了以中小微企业为中心的数据化、自动化、互联网化和智能化的反洗钱风控基础设施。借助反洗钱风控基础设施,XTransfer对每笔B2B跨境贸易的信息流、物流和资金流进行交叉验证,以还原交易全貌,同时利用人工智能技术对交易链路进行全程的数据化监控,确保跨境交易的安全与合规。如今,XTransfer处理的绝大部分跨境交易都是通过反洗钱风控系统自动审核,只有很小部分存在疑点的交易会进入人工审核环节。
在可疑交易的人工审核环节中,智能风控的工单审核助手基于Zilliz Cloud支撑的知识库语义检索能力,针对海量的产品、行业等信息进行综合搜索匹配,把推荐的辅助提示内容给到风控审核人员,助力审核人员迅速定位潜在的交易风险,确保每一笔交易的安全性和合规性。
写在末尾:持续探索,赋能中小企业出海
未来,XTransfer将继续优化其AI知识库,实现多模态知识融合,并在复杂意图任务推理能力、指令遵循能力等方面进行提升,以期为客户提供更高效、更便捷的B2B外贸金融全功能服务。
中小微企业是推动全球贸易增长的重要力量。在国际贸易领域,中小微企业以其灵活性和创新能力, 成为连接全球市场的关键纽带。随着AI技术的不断进步,Zilliz将继续支持XTransfer引领行业创新,为全球中小微企业提供更优质的金融服务。
技术干货
如何在 Jupyter Notebook 用一行代码启动 Milvus?
本文将基于 Milvus Lite,为大家介绍如何在 Jupyter Notebook 中使用向量数据库。
2023-6-12技术干货
向量数据库发展迎里程碑时刻!Zilliz Cloud 全新升级:超高性价比,向量数据库唾手可得
升级后的 Zilliz Cloud 不仅新增了诸如支持 JSON 数据类型、动态 Schema 、Partition key 等新特性,而且在价格上给出了史无前例的优惠,例如推出人人可免费使用的 Serverless cluster 版本、上线经济型 CU 等。这意味着,更多的开发者可以在不考虑预算限制的情况下畅用云原生向量数据库。
2023-6-15技术干货
LlamaIndex 联合创始人下场揭秘:如何使用私有数据提升 LLM 的能力?
如何使用私有数据增强 LLM 是困扰许多 LLM 开发者的一大难题。在网络研讨会中,Jerry 提出了两种方法:微调和上下文学习。
2023-5-18