科技猎唯品会高性能智能路由系统的探索与实践
2017 年 3 月 25 日，又拍云在广州举行了 Open Talk 唯品会专场“如何打造高性能高可用的电商平台”。唯品会资深开发工程师赵勇带来了《新一代应用网络系统-智能路由》的精彩演讲，结合唯品会智能路由项目关键技术点，分享踩坑经验。
唯品会资深开发工程师赵勇
一、50%的用户期望App加载时间在2秒内
速度尤为重要，数据表明，50%的用户期望一个App的页面加载时间在2秒内。亚马逊的统计数据显示，如果每个页面延迟1秒加载，它将造成16亿美元的损失。谷歌认为加入智能路由后，能提高响应速度和网络联通率，增强系统可靠性。对于电商平台而言，速度意味着用户和订单。 移动设备网络环境复杂多变，鉴于域名服务器（DNS）解析耗时间，出现故障无法迅速回复以及容易受劫持等问题，唯品会团队希望通过移动设备本身进行网络探测，动态选择最佳路由，加快访问速度。
二、唯品会智能路由系统构成及关键技术
1．唯品会智能路由系统组成情况
唯品会智能路由系统组成
如上图所：智能路由的核心原理是通过手机端集成路由SDK，直接完成域名到IP的转换，提高访问速度。实现这一过程需要有相应的配置服务，灰色部分是智能路由系统重点部分，包括探测模块、评估模块和获取配置，中间最核心的配置是一块路由表，所有东西都围绕着路由表转。
智能路由系统客户端流程包括App启动，获取配置，探测，评估，提供服务等。其中，探测会监测对所有节点的返还时间，唯品会通过算法对它进行排序，并且跟监控系统、配置同步连在一起，一旦发现问题可以和配置服务采取相应措施。
快速和可靠是智能路由系统设计的难点即重点。快速意味着提供的服务确实能够快速地响应，可靠也就是提供转换的最差情况便是找不到合适的IP，但也能把原来的域名给返回出去，不影响域名的正常解析。
2. 高性能智能路由系统关键技术
为了提高性能唯品会进行了慎重的技术选型。
改造探测IP对比图唯品会智能路由系统关键技术`
- C 跨平台开发
唯品会在移动端要跨平台同时支持安卓和iOS，因此选择了性能非常友好的C ， 底层是commmon C Library。
- 多线程
尽可能地利用多线程技术并行探测，缩短探测时间，提升探测效率。
- 改造探测IP
改造探测IP对比
上图所示，左边是逐个探测过程，右边改成批量探测，比如说域名1、2、3对应的是同一个IP的节点，结合多线程与批量探测技术，唯品会能够做到对所有节点做完一次探测，给App提供最好的智能服务。
- 缓存路由表
将上次批量探测结果，以类似数据库的形式存下来，便于后续的查询、删除、修改和扩展。
- 三层Map结构
基于系统考虑，如上图所示，左边是两个三层的map，第一个map通过域名和网络快速查找IP，它主要是方便App的使用，右边是提供一个IP，快速找到一组域名，并进行快速的批量探测。有了这两个map后，一个App如果第二次启动，便可立刻接受服务。
- 无缝合并路由表
如果配置发生变化，需要重新拉取配置，两个map数据发生变化时该如何处理？
对此，唯品会的解决办法是这个时间不提供服务，等该map新生的配置全部弄好后，把map替换掉，为了在更新map的过程中也可以提供服务，唯品会采用无缝合并路由表并引入自研C 开发读写锁。
三、智能路由系统踩过的坑及经验分享
1. 踩过的坑
- Open SSL
智能路由系统采用C 开发，但标准的C 不支持网络保护，唯品会使用了有安全漏洞的Open SSL库被谷歌应用市场以不符合要求为由拒绝，最终升级Open SSL库得以解决。
- 对埋点的影响
智能路由系统会在短时间内进行大量探测，如果对探测的结果都进行埋点，客户端埋点系统需要支持缓存和批量埋点上报，否则影响客户端应用性能。 因此如果需要大批量埋点上报，埋点系统本身要做的更健全和可靠，且埋点本身支持批量上报，减少带宽。
- Android跨域重定向失败
App 为了可以IP直连，唯品会使用了标准的Host Header表示原来的domain，但Android 使用的Apache HttpClient copy 了original request 里的Headers，导致跨域重定向失败。 解决方案有以下几种：使用定制的Header；改造网络库；修改服务端代码，除去重定向；暂时disable部分功能。
2. 经验分享-避免崩溃
赵勇认为，因为安卓机型复杂很难定位,智能路由项目最大的挑战是面对C 和Crash的问题。对此他给出几点经验：1、明确C crash如何定位；2、需要考虑JNI层的内存泄漏问题，避免内存泄漏小问题日积月累造成较大影响；3、捕获并处理异常；4、采用多线程技术时小心使用锁。
求报道、意见反馈、调戏 小秘书 “佳佳” 请加微信：
微信扫描下面二维码，关注 加速会微信公号，成长快人一步！
如果你在创业， 想认识更多的创始人，彼此学习、资源共享 ，请扫描下面二维码加入 ： 创始人通讯社群 ！
如果你在职场，想 认识更多媒体圈朋友（编辑/记者、市场、公关、媒介、品牌） 请扫描下面二维码加入： 媒体圈通讯社群 ！
