微服务在微信后台的架构实践.pdf

ArchSummit全球架构师峰会北京站姓名 许家滔Title 微服务在微信的架构实践微服务在微信后台的架构实践姓名 许家滔Title 微服务在微信的架构实践自我介绍许家滔()微信技术架构部，后台开发中心基础微信业务/基础服务/基础组件负责微信后台系统，一直专注于布式存储平台和后台服务框架等开源 纲第一部分 背景与概览第二部分 基础架构第三部分 监控与测试第四部分 跨业务服务关系微服务在微信后台的架构实践许家滔背景与概览敏捷开发统一的基础架构与运营管理千级模块的庞大系统基础微信/公众平台/微信支付等等数万服务器微信的后台架构与微服务理念有很多相通之处，尝试从微信后台架构出发描述互联网后台的微服务实践许家滔微服务在微信后台的架构实践背景与概览许家滔微服务在微信后台的架构实践背景与概览许家滔微服务在微信后台的架构实践微信的海量场景下微服务架构需要怎样的能力？许家滔微服务在微信后台的架构实践许家滔微服务在微信后台的架构实践敏捷容错高并发微服务基础架构服务框架服务布局（多城市/园区管理）远程调用（c+大规模协程使用，protobuf，异步队列）https:/ machine/future promise如何重用，如何敏捷？远程调用/libco许家滔微服务在微信后台的架构实践https:/ 轻重分离 队列式 组合命令式许家滔微服务在微信后台的架构实践过载保护的核心是反馈推荐失控微服务基础架构/过载保护许家滔微服务在微信后台的架构实践微服务基础架构/过载保护许家滔微服务在微信后台的架构实践微服务基础架构数据存储一致性的权衡PaxosStore异步队列其他许家滔微服务在微信后台的架构实践微信PaxosStore许家滔微服务在微信后台的架构实践 同步复制，多主多写（园区间数据一致）支持键值/列表等数据结构 支持表格，单表亿行，并可执行类SQL事务 插件化设计，统一的分布框架下面定制的存储引擎 低成本，灵活组合不同的资源（内存/ssd/sata）数千台机器组成的集群微信PaxosStore许家滔微服务在微信后台的架构实践如何设计数据容灾以获得自由切换的能力以同城为大前提的低延迟环境非租约Paxos负载均衡单机/园区分级容灾，kv64架构单机故障分摊25%流量园区故障分摊33%流量SET部署,一致性哈希均匀分布具备细粒度的伸缩性许家滔微服务在微信后台的架构实践为何需要这么重的方式？许家滔微服务在微信后台的架构实践应用简单快速数据容灾服务可用性数据存储的基本要求许家滔微服务在微信后台的架构实践Raft?许家滔微服务在微信后台的架构实践微信PaxosStore许家滔微服务在微信后台的架构实践Paxos工程实现在海量服务上的权衡与创新多主多写(去租约无leader模型）过载保护无切换不可用时间隔离性:细粒度，单机kw+的Paxos(log)实例高性能:协议交互优化微信PaxosStore/系统架构许家滔微服务在微信后台的架构实践基础架构发布系统三军未动，粮草先行基于BitTorrent的传输方案Facebook/Twitter/EBay许家滔微服务在微信后台的架构实践发布系统许家滔微服务在微信后台的架构实践基础架构容器与集群管理CgroupDocker微信Yard许家滔微服务在微信后台的架构实践微信Yard许家滔微服务在微信后台的架构实践中央调度器中央调度器（JobTracker,TorcaJobTracker,Torca）双层调度器双层调度器（Mesos,YarnMesos,Yarn）物理集群MasterNodeManagers资源管理作业调度资源信息作业信息资源管理ResourceManager物理集群NodeManagers在线作业调度Application Master服务器资源信息在线作业信息资源协商TensorFlow作业调度Application Master资源协商TF作业信息基础架构许家滔微服务在微信后台的架构实践需求高可靠、高可用：完善的容灾能力，能管理微信在线服务可扩展、伸缩性好：能方便的接入各种不同的离线计算框架独立性：各个作业资源相互独立，不争用大规模：能管理数万级别服务器的集群和作业选择双层调度器模型监控与测试性能监控与故障分析分钟级的调用关系可用性指标手动介入原则许家滔微服务在微信后台的架构实践测试方法分布式系统测试代价高Mock单机集成跨业务服务关系代码管理依赖管理编译系统许家滔微服务在微信后台的架构实践服务解耦Gatewaybroker