稳!Zilliz助力XTransfer基于RAG打造B2B外贸金融加速器

2024-12-12

By Zilliz

稳!Zilliz助力XTransfer基于RAG打造B2B外贸金融加速器

中小微企业是保持国民经济平稳快速发展的重要力量。根据联合国数据,中小微企业在全球企业总数中占比超过90%,为全球经济贡献了超过50%的GDP。XTransfer致力于为跨境贸易企业提供安全、高效、低成本的跨境支付及金融解决方案,让全球中小微企业惠享金融服务。

作为一站式外贸企业跨境金融和风控服务公司,XTransfer成立于2017年,深耕行业,以大数据驱动,通过人工智能等技术,服务覆盖全球200+国家及地区,致力于帮助中小微企业在全球范围内进行贸易往来,更便捷地管理跨境资金流动。现今,XTransfer已经服务超过五十五万家中小微企业,成为中国B2B外贸金融第一平台。

一墙之隔的缘分,三年的陪伴与成长

时间倒回到2022年,Zilliz公司开发的开源向量数据库Milvus被正式引入XTransfer,XTransfer在线智能客服系统“智能小秋”1.0上线,双方的合作拉开序幕。彼时,Milvus的主要使用场景还是纯语义检索,问答查询只能靠检索匹配。

“Milvus社区是极其活跃的,我也是其中一员,刚开始用的时候,有些功能还不够完善,我就在Github上提交issue,然后在下一个版本,发现需求就合入了,我还参与了多次社区分享。” XTransfer资深算法工程师马经纬回忆到,“在我们需要联系技术支持的时候,却惊奇地发现,Milvus产品的的母公司Zilliz与XTransfer的办公区仅有一墙之隔”。在那段时间里,XTransfer的技术人员带着电脑到Zilliz的办公室进行技术交流,成了一道独特的风景。

“XTransfer有业务场景,Zilliz有技术支持。三年的合作,可以说,Zilliz和XTransfer 是一起成长,相伴壮大的”,马经纬如是说。

顺势而为,拥抱大模型时代

2022年底,AI大模型异军突起,XTransfer顺势而为,投入了基于向量数据库+大模型的 RAG (Retrieval Augmented Generation)应用开发。在不到一年的时间里,XTransfer基于云上的向量数据库Zilliz Cloud,搭建起了一个企业级知识库中台,并基于这个中台能力,落地了丰富多彩的应用,除了让客服系统变得更智能之外,还有风控实时辅助、营销辅助以及内部管理辅助等特色能力也一步步搭建起来。而XTransfer在落地这些RAG应用的过程中,也在不断尝试向量数据库的新版本、新特性。

今年,XTransfer自研外贸金融大模型TradePilot正式落地,通过数据分析和人工智能技术,提高支付及金融服务的效率和安全性。该模型历经数轮迭代,结合大量业务数据和市场需求,采用了最新的大模型训练和微调技术,确保在风险管理、客户服务等方面具有卓越的表现。TradePilot对于外贸金融知识的理解能力与Zilliz Cloud的高效语义检索能力相得益彰,XTransfer的研发团队打造出了大模型时代B2B外贸金融领域的最“稳”加速器。

从 Milvus 到 Zilliz Cloud 云服务,更稳更安心

随着服务企业规模的扩大和业务的复杂化,XTransfer需要更稳定的企业级SaaS服务,来保障业务的稳定性并降低运维成本。Zilliz Cloud采用了多层次的企业级数据安全措施,包括隔离环境、数据保密、角色与权限控制以及数据备份和灾难恢复,确保数据的完整性和隐私。此外,Zilliz Cloud还通过了ISO/IEC 27001、GDPR和HIPAA等安全合规认证,满足严格的数据安全和隐私保护标准。因此XTransfer将最初依赖开源向量数据库Milvus的业务切换到了Milvus的全托管云服务--Zilliz Cloud上。

“之前是我们自行将开源Milvus部署在服务器上,当有新的业务上线或者变更时,内部会批量整理一批材料,进行大量数据的写入,数据膨胀得非常快,这会给服务器运维带来一定的压力。另外当遇到版本升级等问题时,我们还需要联系Zilliz的工程师来现场解决。后来我们用了云上的向量数据库Zilliz Cloud之后,就避免了这些问题,向量数据库上云后,稳定性得到很大的提升。我们遇到问题的时候,Zilliz的技术专家都可以在第一时间在线帮我们解决。”

相比于开源Milvus,Zilliz Cloud 提供了更好的可观测性,更易用的运维工具,包括一系列的监控指标及告警机制,以帮助用户了解业务集群当前所处的状况,更好地保障相关生产业务的稳定性和可靠性。

知识沉淀助力企业可持续发展

大模型时代,对AI知识库的建设提出了迫切的需求,大模型虽然拥有很强的基础能力,但对特定专业领域知识记忆能力有限,因此需要外接知识检索系统。 传统的知识管理方式已无法满足企业的需求。XTransfer 为了实现高效发展,必须将分散的知识汇集起来,体系化加工处理,形成企业的知识资产及专业岗位人才的知识储备。

需求与挑战:知识的高效检索

传统数据库基于精确匹配搜索搭建,但这种搜索方式无法涵盖上下文、语义和用户意图等信息。而向量数据库可以很好地解决这个问题。

XTransfer基于RAG(Retrieval-Augmented Generation)技术,将向量数据库Zilliz Cloud的强大向量检索能力与AI大模型的综合理解能力相结合。依托企业长期沉淀下来的知识资产构建AI知识库,实现了知识的高效检索和输出,并支持多种应用场景,包括智能问答、实时辅助、离线学习等,为业务提效发挥了极大的促进作用。

1.png 1.png

XTransfer 企业AI 知识库业务架构示意图

典型业务使用场景:

智能问答+实时辅助,助力行业专家炼成

2024年,随着业务从Milvus全量迁移至Zilliz Cloud,智能小秋也迭代到2.0版本。截至当前,7×24h在线的智能小秋已被调用数十万次 ,帮助中小微外贸企业客户解决了无数的疑难问题。借助于Zilliz Cloud及大模型构建的RAG能力,智能小秋2.0在语义识别和理解能力上实现了质的飞跃,而在XTransfer的客户服务体系内,大部分的咨询场景都可以通过智能小秋2.0得到解决。

2.png 2.png

XTransfer智能客服逻辑链路图

而当客户需要接入到人工客服的时候,知识库检索即刻发挥实时辅助作用。客服专员可以在与客户交流的同时,检索关联知识,高效、准确地回复客户的业务咨询,真正实现“从人工记忆到人机融合”。

风控工单审核助手-风控审核人员的Copilot

作为B2B外贸金融全功能平台,XTransfer的反洗钱风控审核坚持严格标准。

自成立以来,XTransfer自研打造了以中小微企业为中心的数据化、自动化、互联网化和智能化的反洗钱风控基础设施。借助反洗钱风控基础设施,XTransfer对每笔B2B跨境贸易的信息流、物流和资金流进行交叉验证,以还原交易全貌,同时利用人工智能技术对交易链路进行全程的数据化监控,确保跨境交易的安全与合规。如今,XTransfer处理的绝大部分跨境交易都是通过反洗钱风控系统自动审核,只有很小部分存在疑点的交易会进入人工审核环节。

在可疑交易的人工审核环节中,智能风控的工单审核助手基于Zilliz Cloud支撑的知识库语义检索能力,针对海量的产品、行业等信息进行综合搜索匹配,把推荐的辅助提示内容给到风控审核人员,助力审核人员迅速定位潜在的交易风险,确保每一笔交易的安全性和合规性。

写在末尾:持续探索,赋能中小企业出海

未来,XTransfer将继续优化其AI知识库,实现多模态知识融合,并在复杂意图任务推理能力、指令遵循能力等方面进行提升,以期为客户提供更高效、更便捷的B2B外贸金融全功能服务。

中小微企业是推动全球贸易增长的重要力量。在国际贸易领域,中小微企业以其灵活性和创新能力, 成为连接全球市场的关键纽带。随着AI技术的不断进步,Zilliz将继续支持XTransfer引领行业创新,为全球中小微企业提供更优质的金融服务。

      准备好开始了吗?

      立刻创建 Zilliz Cloud 集群,存储和检索您的向量。

      免费试用 Zilliz Cloud