|
案例背景及面临挑战 在当下互联网+时代，银行利率市场化、金融脱媒进程加快，金融监管日趋严格，使得普惠金融、绿色金融、科技金融成为经济发展的新方向。 同时，移动互联网、线上支付、电子商务等互联网金融，借助着云计算、大数据、人工智能等创新信息技术迅猛发展，衍生出了新的金融市场生态环境，改变着社会消费习惯和商业模式，推动着银行向数字化转型，也促使着金融行业向移动化、社交化、多元化转变。 在新的金融生态格局下，浙江农信作为典型的农村金融机构，在新兴技术和互联网金融的冲击下，面临着巨大的挑战，亟需转型升级： 1.传统的集中式IT架构弊端不断涌现，如源代码冲突严重，业务创新慢，数据库能力达到上限等，已经无法满足浙江农信IT系统面向海量、提供高效全面的金融产品和服务的需求，也无法实现“金融+互联网”的发展目标。 2.跨界竞争日趋激烈，互联网金融凭借便捷、高效、低成本等优势，对银行核心业务领域造成了巨大冲击，影响银行的收入来源、增加吸储难度、分流客户群体等。 3.业务需求的变化，使得银行的客户结构、盈利模式、服务方式等为之发生了变化。和、生态、场景等金融新模式带来了业务场景和业务设计的变化。新生代客户广泛使用电子现金和移动支付技术，金融消费习惯更注重方便快捷及高客户体验。 4.信息安全问题给银行带来压力。保障客户、银行的信息和资金安全成为IT金融创新中的重中之重。 实施时间 为积极应对新兴技术带来的机遇与挑战，以及互联网金融业务快速创新的要求，浙江省农信联社建设了基于分布式技术的网络金融平台。整个平台的建设是一个艰巨而又漫长的过程，在浙江农信IT建设的发展史上，其涉及范围最广，投入人数最多，实施周期最长，历时18个月。自2017年4月22日正式上线以来，整个平台运行平稳、高效，提供了良好的客户体验,平台建设的各个阶段都达到了预期的指标。 各个阶段的里程碑如下： 1.2016年1月，完成网络金融平台业务功能架构、系统架构和技术方案选型准备工作； 2.2016年2月，完成网络金融平台-账户核心系统（包括综合电子账户、产品装配工厂等功能）的招标工作； 3.2016年4月，完成分布式基础平台、账户核心系统、客户管理系统集群的需求分析和概要设计工作；完成移动前台系统UIUE设计工作； 4.2016年7月，完成分布式基础平台、账户核心系统、客户管理系统集群、移动前台系统的开发； 5.2016年11月，完成综合业务系统关联系统项目的开发改造、测试等工作； 6.2016年12月，完成网络金融平台测试工作，包含系统测试、用户验收测试、性能测试和第三方安全测评和加固工作； 7.2017年1月，完成网络金融平台（一期）和关联系统改造项目的投产试运行； 8.2017年4月22日，网络金融平台正式上线运营。
应用技术及实施过程 3.1 网络金融平台应用架构研究与设计 3.1.1 平台应用架构体系：浙江农信IT架构的“双轮驱动”模式 在互联网大潮下，浙江农信在“十三五”科技信息建设规划中提出了以“金融+互联网”为目标，以金融为本，科技为器，选择“稳态+敏态”的双轮驱动模式，构建网络金融平台对接互联网，与传统银行核心系统进行有机的衔接和交互。 在整个规划与应用中，对于柜面核心平台继续保持稳态业务发展，充分发挥银行线下的核心优势，持续做好传统柜面金融服务。基于传统技术和架构出发，特别注重业务连续性，满足监管对系统高可靠性和稳定性的要求。 对于网络金融平台：坚持敏态业务发展，基于分布式技术打造一个面向互联网的网络金融综合服务平台，强调外部合作、共享、开放互联，支持金融产品的敏捷开发和创新。
3.1.2 浙江农信网络金融平台业务与功能规划 互联网+时代，行业格局已发生显著变化，互联网金融正不断改变着商业银行的支付模式、融资格局及服务模式。对平台的业务和功能进行了规划。如图所示，网络金融平台主要有如下几个特点： 第一，构建互联开放平台。秉承互联网的开放、合作、互联精神，通过“开放平台”战略，实现在服务、产品和数据等方面加强与第三方的合作，实现互联互通。 第二，构建“以客户为中心”的服务体验管理平台。以客户体验为核心，实现客户服务渠道共享、线上线下协同、服务场景和流程创新；全面采集客户行为等静态和动态数据，通过大数据分析等技术，优化客户体验、控制客户风险、提升客户价值。 第三，构建网络金融账户体系。面向互联网客户形态，构建一个脱离存折、卡片等传统硬件介质存在，依托手机或可穿戴设备等便携式移动设备的电子账户、虚拟账户等网络金融账户体系。 第四，构建支付创新平台。结合支付场景提供安全、可靠、便捷的支付服务，实现线上、线下支付收单一体化管理，全面支持各种支付方式及手段的创新和应用。 第五，构建服务产品化平台。通过产品工厂实现产品的快速组装、定制和上线；将银行传统产品、金融同业产品和非金融产品包装、定价和销售，支持跨界产品和业务模式创新。 第六，构建数字化运营管理平台。建立以数据支撑的精细化运营管理能力。通过互联网产品运营，实现吸引新客户、留住老客户、增加客户粘性的目标。 第七，主动实施架构转型，积极采用云计算等技术。网络金融核心平台采用成熟度高、开放性强的分布式、虚拟化、云计算等技术，采用规范与标准先行、自主可控的策略，逐步构建安全可靠的云平台应用体系。 第八，引入大数据技术，建立大数据服务体系。结合网络金融核心平台的应用，进一步推进数据标准化和规范化建设，完善数据治理体系。建立大数据服务体系，构建大数据服务平台和服务接口；通过大数据实现客户数据采集及分析，实现精准营销，提升客户体验及平台获客能力。加强大数据风险控制，提升运营管理水平。
3.1.3 网络金融平台技术架构规划与设计 在充分研究和论证当前的主流技术特点的前提下，确定了网络金融平台应重点考虑服务化、消息、缓存、分库分表、应用平台、自动运维等九大技术方向。这些技术能满足秒杀、业务快速变化与创新等网络金融平台的典型业务场景。以此构建的分布式基础技术平台具有高可用、可伸缩性、安全性、可移植性、可管理性、高性能、技术成熟度高等特点。
3.1.4 网络金融平台应用架构的交互与融合方案 从应用着手，设计平台应用架构的交互与融合方案。系统基于分布式技术平台构建，基础业务功能被设计成可灵活扩展和便捷调用的分布式服务。系统业务分层清晰，相对独立，因此提升了系统横向扩展能力和业务创新能力。 平台整体功能分为前端用户接入、后台服务处理、关联系统交互三大模块。整个服务是基于X86开放式的基础技术架构，涵盖了分布式服务、消息中心、缓存中心、流程引擎等。
3.2 网络金融平台的关键技术点设计与应用 整个平台技术点很多，项目组把其中的关键点划分为1大核心保障、4大核心中间件、4大应用组件、4大运维利器。 3.2.1 一大核心保障——高可靠数据库架构体系 一大核心保障，高可靠数据库。使用了与分布式架构体系融合度更高的MYSQL数据库。并根据需要搭建了一套全新的数据库架构。传统的数据库架构更多的是主从模式，而独创以Shadow作为主备，当Master节点发生异常时可以做到自动切换；通过自主研发的qlink软件保证了数据不丢失；架构中也使用了读写分离技术，对外提供读写两个VIP。master提供写服务、shadow与slave提供读服务；支持通过参数设置将延迟过大的slave踢出读资源池，防止读到的数据过于老旧；已达到的性能：并发数在200的情况下，QPS读超过20万，写达到3万。
3.2.2四大核心中间件 分布式服务中间件 目前，建设了服务、消息、缓存、数据库中间件4大核心中间件来支撑整个系统。 分布式服务中间件，分布式服务框架是基于阿里开源的DUBBO衍生而来的。DUBBO被众多公司选作服务框架的基础。为了能满足更多的场景需求，适配了很多功能，对于其中用不到的功能做了精减。修改了原有功能在服务节点有变更时有可能造成的广播风暴问题及优雅停机的缺陷，扩展了dubbo-admin对多个注册组的支持等功能；新增了服务运行监控、服务TOP排名、服务调用链、服务限流、服务降级等功能。通过这些技术上的改造，再配合服务治理的整个流程，实现了对服务全方位的管理和监控，从而基于dubbo形成了一套自有的更完善的服务框架。已达到的性能：并发数在200的情况下，TPS可以达到1.5万。
分布式消息中间件。分布式消息中间件基于ActiveMQ衍生而来，实现了一整套完善的消息处理机制。在两个一主一从的集群模式下，并发数在200时，TPS达到了6万；另外，本身activeMQ的消息是不可靠的，提供了高可靠的方案，并完善了异常处理机制、优化了集群部署方案；目前主要应用在技术解耦、流量削峰、消息通讯以及异步处理上。
分布式缓存中间件。为了满足高读写性能场景的业务需求，基于当前主流的两种缓存技术redis和memcache建设了分布式缓存中间件。该中间件提供了多种部署方式，对于哨兵模式，在client API上扩展了hash算法，解决了单个redis实例承载能力问题。提供了多种接入方式，方便不同语言应用的快速接入。提供了对Lua脚本的支持以及基于redis的功能模块，如分布式锁等功能。同时实现了监控和管理功能，做到故障自动转移、快速缩容和扩容。 已达到的性能：两个1主1从，并发数在200的情况下，TPS可以达到11万。
分布式数据库中间件。分布式数据库中间件可以实现便捷的分布分表，对应用透明。项目组基于阿里Cobar发展而来的Mycat作为分布式数据库中间件的核心。在建设的过程中，修改Mycat本身较多的BUG，并新增数据库连接数的限制，以此来保护数据库的连接数不被撑爆，进而保护整个应用的稳定运行；增加监控数据库down机并重启后，去除不可用连接功能。 已达到的性能：并发数在200的情况下，单节点TPS可以达到1.7万。通过分布式数据库中间件与前面讲到的高可靠数据库的结合，在数据库层面可以实现数据不丢失、便捷的分库分表和读写分离等功能，让数据库不在成为瓶颈，助力轻松应对不断增长的用户和快速发展的业务。当前项目组将网络金融平台垂直划分成电子账户、支付系统、客户系统等多个库，对于其中的大表，如客户系统再进行分表。
3.2.3四大应用组件 流程引擎 。4大核心中间件加强大的数据库保障机制，构成了整个分布式技术核心。为便于应用的快速开发，还建设了流程引擎、配置中心、序列组件、批量组件这4大应用组件。 流程引擎，用于将多个业务单元组合起来实现一个完整的业务功能。基于扩展spring schema方式自主实现，流程编排完全配置化,无任何业务代码侵入、支持服务动态循环调用，支持并行和异步调用。
配置中心。为了实现对整个平台的配置文件、配置项的集中管理、变更的自动推送，在disconf的基础上进行了改造和封装，建设了配置中心，由该组件提供统一的配置管理服务，应用只需要进行简单的配置即可完成配置文件的托管。
序列组件。在复杂的分布式系统中，往往需要对大量的数据和消息进行唯一标识，为了便于应用快速开发，且达到各系统生成的ID不重复的目标，建设了序列组件，由该组件提供不同场景下Id的快速生成该组件可独立部署，通过dubbo方式进行调用，采用双缓存技术极大提升性能。网络金融平台所有子系统的ID号均由该组件生成，比如订单号、业务跟踪号、交易流水号等。 已达到的性能，单机TPS可以到10万。
批量组件。用于快速开发批量的功能组件，主要包含调度模块和执行模块。完全自主开发，提供了强大的自定义线程池，支持取消作业、超时停止作业等功能，避免了某一批量因异常而一直占用系统资源，开发包支持分库分表。提供平台统一接口，便于关联系统或平台快速接入，提供丰富的可视化操作界面，降低了批量配置和管理的难度，并能直观地展示批量执行状态。已到达的性能：并发数在100的情况下，调度模块的TPS为400左右。 3.2.4 四大运维利器 管控平台 。为了支撑整个分布式中间件和应用组件的良好运行，从运维、部署等角度出发，再建设了4大运维利器。管控平台是一个综合的管理和监控平台，提供了的主要功能有各组件的管理和监控、服务的全生命周期的管理、多层次的监控及灵活的预警规则。
部署平台。部署平台最大化的简化了部署的步骤，人工只需要做一些简单的配置即可，极大的提升了部署的效率。支持一键打包、一键部署、一键回退；支持灰度发布与优雅停机（需应用支持）； 支持多环境、多实例、多配置、多角色权限等能力；支持与JENKINS的集成。
日志平台。当前，主要收集了应用的完整业务日志、服务执行日志、服务trace日志，通过收集到的业务日志帮助快速查找问题；通过收集到的服务执行日志实现前面的服务运行监控和服务TOP排名功能；通过收集到的trace日志进行分析，实现服务调用链的展示。未来，可以依托日志平台做更多的功能。
应用性能管理平台。是以真实用户体验管理和代码级应用性能管理为核心，实现了前端浏览器、网络传输、应用性能、中间件性能、数据库性能的自动关联及分析，协助用户提早发现、尽快解决应用系统的性能和可用性问题。 应用性能管理平台由探针、管理服务器、管理控制台三部分构成。 探针：安装在被监控应用服务器上，负责收集业务系统的性能数据。 管理服务器：接收来自探针和前面浏览器的性能数据，并将其存储在性能数据库中。 管理控制台：实现对应用系统的性能监控、故障诊断、代码级问题定位、告警、以及历史性能对比分析。 与日志平台不同的是，这个是无埋点式监控。
网络金融核心平台的应用效果 1.基于分布式技术构建的网络金融核心平台，促进了IT架构的优化及转型升级，使得IT建设经济成本明显降低，有效降低TCO。一是服务器的购置成本及运维成本大幅下降。传统的集中式架构体系，服务器成本高昂，商业数据库及中间件费用较高，传统架构的购置成本总价需约950万元，而基于分布式架构体系服务器的购置成本仅需120万元。二是机房运行成本及管理成本明显下降。系统方案实施后，服务器设备的减少，节约了中心机房物理空间，设备直接耗电量和制冷耗电量明显减少，中心机房UPS负载明显降低，从52%降低到20%、延长了市电中断情况下UPS放电时间。中心机房直接运行成本电费支出降低，其它间接支出如机房改造成本、设备设施维护维修成本也相应降低，使得建设节能、绿色、低碳中心机房成为可能。 2.平台架构庞大，业务覆盖广，应用场景多，承载了1500万的用户体量。整个平台划分成21个子系统，初步形成了较完善的共享服务体系，到目前为止，各个系统之间交互的服务已经达到2300多个。 3.平台自上线以来，平滑、高效、稳健地运行了半年之久，产品组合与创新能力有了极大的提升，构建了全渠道运营能力和线上线下协同营销能力，产品推出周期比之前缩短了1/2。根据用户的个性化需求，推出了200多种产品，例如电子缴税、丽水食品溯源、金苹果手机抢购等，全方位多角度地满足了客户随时随地的需求，提高了客户体验度和用户粘度。 4.平台运用分布式技术，搭建完成后达到了高性能、高可用、可伸缩、可管理等目标，突破了数据库瓶颈，提高了开发效率。各系统性能均达到甚至超越预期，比如客户系统TPS超过1.5万，数据库QPS达到20万，写达到3万。 为了保证项目实施的质量，在平台建设过程中制定了28套详细完善的应用标准和安全规范。这些标准和规范的建立将成为浙江农信IT转型升级的有效推动力。在项目实施过程中，逐步建立了一支自主可控的IT技术研发团队，不断进行新技术的研究和成果转化。 通过分布式技术的合理运用和业务的整合、扩展为其他省农信联社在互联网系统建设、学术分析以及信息化进程的推进等方面提供了很好的借鉴。
单位介绍 浙江省农村信用社联合社是浙江省政府授权管理、指导、协调、服务全省81家农信系统金融机构(包括农村商业银行、农村合作银行、农村信用联社)的省级管理机构。浙江省农信联社始终坚持服务“三农”和小微企业的经营方向，以服务跨越发展、以造福民生、奉献社会为己任，抢抓机遇，开拓创新，持续推进农村信用体系建设，推出丰收小额贷款卡、丰收创业卡等重大创新型金融产品，建立科技服务中心、电子银行中心、资金运营中心、清算中心、教育培训中心等五大服务中心，不断优化管理手段，推动全省农信系统积极转变发展方式，实现了大跨越、大发展。 到2016年末，浙江农信系统各项存款余额16429.8亿元，各项贷款余额10954.3亿元，存贷款总量居全省银行业第1；承担了浙江省二分之一的农户贷款和五分之一的小微企业贷款，支农支小贷款存量、历年增量、服务覆盖面均居全省银行业第一，拥有4100多个营业网点，5万多名员工，已发展成为全省网点人员最多、服务范围最广、资金规模最大的地方性金融机构。 |
|
|
