专注Service Mesh,「Flomesh」构建内网流量管理核心基础设施

来源:36氪
发布时间:2021-05-13
企业内部系统结构愈加复杂,内网流量高速增长

记者:李子月

编辑:石亚琼

**

Flomesh是专注于Service Mesh领域的技术团队,成立于2018年。Service Mesh(服务网格)被认为是大规模分布式服务之间通讯所必需的网络基础设施层。在微服务规模日益增长、服务之间通讯行为日益复杂的情况下,Service Mesh能够帮助优化通讯质量(QoS),提高服务等级(SLA),增加基础设施的可靠性和可观测性。

代理模式(Proxy Pattern)是一种通用的架构设计模式,通过代理的引入实现了解藕,被代理方的编码实现可以更为简洁清晰,而代理层可以注入并提供通用的能力。随着微服务的兴起,进程级的代理(Sidecar Proxy)成为一种最佳实践,其提供了跨编程语言、跨运行环境的统一流量管理和服务治理能力,这种采用Sidecar Proxy来管理流量的架构方式被称为Service Mesh,即服务网格。

(图片来源:企业官方)

Flomesh团队在实践中发现,进程级代理在实际使用中,不仅提供了业务服务的解藕能力,也提供了更为广泛的通用能力,如为中间件、缓存、数据库等和基础能力组件提供负载均衡、数据分片、故障恢复、故障迁移、不停机升级、指标采集、数据采集、灰度升级等。可以认为,进程级代理的模式,正在从微服务领域向更为广泛的分布式使用场景演化。Service Mesh也正在从面向微服务的网络基础设施向面向内网流量综合管理方向进化,成为一种广泛的、综合的、通用的网络基础设施。Service Mesh不仅提供了微服务所需的服务治理的能力,也正在成为内网普遍的流量管理方式,并衍生出更多的能力,如信息安全能力和大数据能力。 

经过3年的迭代研发,Flomesh团队开发了完整的技术栈,该技术栈全部组件均为自研,并在2021年春节开源了其核心组件pipy proxy(https://github.com/flomesh-io/pipy)。创始人蔡书表示,Pipy具有“小(可执行文件小,占用内存少)、快(在处理HTTP方面比Nginx快)、稳(延迟抖动幅度小)、易扩展(使用JS语法扩展)”的特点,为广大社区提供了一种全新的“流量编程”技术基础组件。Flomesh团队希望通过开源,为社区和市场在Nginx和Envoy之外提供一个更为高效、简洁、易用的选择。

基于Pipy proxy,Flomesh团队研发了核心的流量管理产品,包括“Flomesh软负载(FLB)”和“Flomesh服务网格(FSM)”。目前主要在领先的金融机构、物联网等大型、分布式、数字化程度高的领域使用。蔡书表示,Flomesh目前处在Service Mesh这个新兴市场的有利位置,如中国股份制商业银行中有多家在新增流量中使用Flomesh的产品和服务。大多数Flomesh客户会基于Flomesh做扩展开发和对接基础设施管理平台,此时Flomesh的灵活扩展能力成为核心的竞争优势。同时,蔡书在与客户的沟通中发现,即便是中国股份制银行这种国内甚至国际领先的金融机构,依然会被国际大型软件供应商当做“二等公民”,提一个需求需要很久才能得到核心研发的支持。Flomesh底层完全自研,为中国头部用户提供使用国产自研产品的选择。

科创公司一般有三种模式,一是拿团队在之前工作中形成的成熟技术迭代成商业产品,二是仿制现有商业产品,三是追随市场头部客户需求快速研发。Flomesh属于第三种。蔡书指出,市场对于需求的理解是先于主流媒体的,而头部客户通常更早的发现了需求,追随市场头部客户有利于产品迭代。2018年创立时已有客户研发订单,2019年营收增长率100%+,2020年比2019年有小幅增长(受疫情影响)。蔡书认为,2021年市场需求将大幅增长。

创始人蔡书毕业于东北大学,主修计算机专业,先后任职于IBM、RedHat等企业,有20年IT从业经历。Flomesh团队现有不到20人,50%为研发人员,其中三分之一人有15年以上工作经验。

国内外竞品对比

在这个市场和技术方向上,目前国内外主要有三个领域的参与者:传统商业产品公司、大型公有云和开源软件。商业产品如ADC市场霸主F5在2019年收购Nginx,主要目的即为该领域;几乎同一时间,虚拟化市场霸主VMware收购AVI Network也几乎是基于同样的市场考虑。大型公有云都把“流量管理软件化”作为核心产品研发。开源社区也敏锐的感知了这个领域的需求,无论是Nginx社区推出了面向云原生的Nginx Unit产品,还是CNCF牵头Istio社区推出的Envoy,都是瞄准了企业内网流量这个高度增长的市场。国内互联网巨头,阿里团队推出的MOSN和百度团队推出的BFE,也都针对企业市场和内网流量领域。

蔡书表示,与竞品相比,Flomesh技术层级更为基础,抽象了共性的部分形成框架,从而适配于各种已知需求;核心组件性能更高,占用资源更小;工程设计和实现能力更强,架构更合理,更易扩展。

蔡书进一步指出,Service Mesh领域的技术门槛由底层技术的稳定性和可靠性决定,成本和效率为关键技术指标,也是大多同类公司忽略,但是Flomesh非常关注的要点。行业内随着容器技术日益普及,计算密度向更高的方向发展;FAAS等技术的发展,进一步推动计算单元小型化、生命周期短的趋势。高密度的部署,对资源的利用提出了更高的要求,每个组件都可能被成千上万甚至上百万的扩展和复用,因此每个组件多用或者少用资源,这种差异在累加后,会是指数级的,会带来整体开销的巨大差异。

行业前瞻

无论在IBM期间,还是在RedHat期间,蔡书都从事和流量管理相关的工作,包括构建IBM的全球物流网关,在RedHat负责集成类产品(Integration)的市场导入等。在工作期间,蔡书发现,2010年后云的发展越来越具体,传统上用硬件做的工作现在都逐渐在软件化。企业内部系统结构变得愈加复杂,内网中的流量高速增长。但现在在云上并没有很好的产品来管理这些流量、解决高速发展过程中遇到的问题。蔡书的思路是,在变化非常频繁的领域里,需要用不变的东西来实现管理。网络协议变化非常少,因此可以从这个方向入手。

蔡书指出,内网数据量是互联网数据量十倍甚至百倍以上,同时还在保持非常高的增速。Service Mesh既是一个高速增长的技术领域,也是一个高速增长的市场领域。随着更大规模的分布式体系出现,包括FAAS的普及,未来市场规模会出现爆发式增长。

Flomesh 于 2020 年底完成了由初心资本独家投资的天使轮融资。初心资本执行董事于真真表示:“Service Mesh 是云原生环境里重要的网络基础设施,是新兴的和高速增长的技术领域,能够帮助企业提高大型分布式应用的稳定性,并对架构进行中心化的观测、管理、及维护。随着微服务的普及,以及Serverless/FaaS的发展,Service Mesh 在大型基础架构中普及是必然趋势。然而,目前已有开源产品如 Istio 在资源占用、性能、易用性、扩展性等方面并没有充分满足市场需求。Flomesh核心组件pipy为原创研发,具有技术独立性,且其关键技术指标(如性能、资源占用等)达到甚至超越了全球范围内的顶尖水平,为开源领域和企业市场提供了极具竞争力的新选择。Flomesh的基础设施、云原生、开源、原创、技术领先等特征使其成为稀缺的投资标的。”

本文图片来自:企业官方 正版图库