Knative 助力 XTransfer 加速应用云原生 Serverless 化
作者:元毅
公司介绍
XTransfer 是一站式外贸企业跨境金融和风控服务公司,致力于帮助中小微企业大幅降低全球展业的门槛和成本,提升全球竞争力。公司连续7年专注 B2B 外贸金融服务,已成为中国 B2B 外贸金融第一平台,目前全球的贸易企业也都已开始使用 XTransfer。
业务场景
XTransfer 以科技为桥梁,链接中外大型金融机构和中小微企业,打造了以中小微企业为中心的数据化、自动化、互联网化和智能化的反洗钱风控基础设施。XTransfer 与知名跨国银行和金融机构合作,建设了 B2B 外贸金融全功能平台,能提供外贸收款、多币种现金管理、融资、理财、风控服务、客户管理等在内的综合解决方案,让中小微企业享受到和大型跨国集团企业同等水平的跨境金融服务。
面临的痛点
如今,全球贸易往来成为经济发展的一大命题,在 B2B 贸易碎片化、小型化和高频化的背景下,外贸企业对于实时、安全、普惠的跨境金融服务需求愈加迫切,技术能力也需要在客户的需求基础上进行不断的迭代优化,以提供更便利化的跨境金融和风控服务。由于 B2B 外贸交易信息分散且非结构化,保证交易信息识别的准确性和客户需求回答的即时性、稳定性是提供优质金融服务的基础,所以在底层基础设施建设上存在一定的挑战。面临的具体痛点表现为:
算法模型部署成本高
不仅包括硬件资源的成本,还包括维护、监控、故障修复等运维成本。传统的算法模型部署方式需要持续提供计算资源,即使在无请求时,也需要保持足够的服务实例以便应对可能的流量。这无疑会造成大量的资源浪费和高额的费用开销。
算法模型部署周期长
算法与工程边界模糊、耦合严重、相互制约,算法迭代效率不高,每次算法模型的迭代强依赖于业务工程,每次模型迭代都需要走一个完整的研发测试周期,流程长,效率低。而且在模型上线后,还需要对模型进行持续的监控和维护,这会进一步增加部署周期。
难以快速响应突发流量
在网络流量波动较大的情况下,例如在大批量风控规则任务跑批期间,传统的模型部署方式可能无法快速响应突然增加的流量,导致服务性能下降或者服务宕机。即便提前预估流量并增加服务实例,也可能因为流量预估不准确而造成资源浪费或者服务质量下降。
解决方案
由于 B2B 外贸交易信息分散且非结构化,保证交易信息识别的准确性和客户需求回答的即时性、稳定性是提供优质金融服务的基础,所以在底层基础设施建设上,XTransfer 与阿里云合作,专注于支持 Serverless 架构,落地了 Knative 部署平台。
XTransfer 的 DevOps 平台借助阿里云云原生 Knative 组件及 GPU 共享调度能力,支持算法模型的 Serverless 部署,算法工程师创建待上线模型版本、定义推理脚本、指定模型服务所需资源 (最小副本数、GPU 占用、内存占用等),后续整个模型发布流程在 DevOps 平台上完成即可。
业务价值
目前,XTransfer 已经成功运用 Knative 部署平台,充分利用其自动伸缩、事件驱动、容器化部署以及版本控制、资源按需分配和释放、应用生命周期管理等功能。使用 Knative 部署平台能实现按需扩容和分层请求调用 GPU 资源,及时应对短时大批量请求,节省成本同时能保证服务器的稳定性。