商业智能与分析市场剧变:传统BI厂商集体沦陷
早在2015年初,Gartner就在《商业智能与分析平台魔力象限》年度报告中说到:“传统BI的市场份额领导者被新型BI厂商打乱。这些新型厂商让更多的人成为了数据分析用户,并创造了更高的商业价值。”
经过2015一年的发展,传统BI的颓势愈发明显。Gartner在2016年2月发布的《商业智能与分析平台魔力象限》年度报告显示:传统BI厂商全部被驱除出了领导象限。一年的时间里,全球商业智能与分析行业市场到底发生了哪些剧变?这里,笔者将给出自己的解读,同时奉上2016年《商业智能与分析平台魔力象限》年度报告原文。
那么,在过去的这一年,全球商业智能与分析市场的变革发展到什么地步了?首先,让我们对比一下Gartner分别在 2015年和2016年公布的商业智能与分析魔力象限。
2015年市场的三个剧变
从以上两张魔力象限图中,我们可以看出来2015和2016年商业智能与分析魔力象限存在三个剧变。
1. 传统BI厂商几乎全部被驱除出了领导者象限,包括IBM、SAP、SAS、Microstrategy等传统BI巨头无一幸免。
2. 2015年还处于领导者象限的Oracle已经完全消失了,连利基象限都没能保住。
3. Birst、Logi Analytics等处于挑战者象限的BI厂商也被全部驱除。在Gartner分析师眼中,居然没有一家厂商满足挑战者条件。
大幅改变的Gartner魔力象限报告,让我们深切感受到了国际商业智能与分析行业市场的颠覆性变化。另外,Gartner将传统BI巨头重新打包到Gartner静态报表魔力象限报告中,有兴趣的朋友可以做深入研究。
2015年市场的发展概况
1. 探索式分析几乎成为BI选型的唯一选择。在Gartner商业智能与分析魔力象限报告中,分析师们给出了这样的结论。由于Gartner商业智能与分析魔力象限报告只研究全球化厂商,所以无论收入规模多大,国内BI厂商都无法进入报告,进入挑战者或领导者象限更是无从说起。
2. 去中心化的探索式分析逐渐被放弃,良好的企业管控之下的探索式分析将成为主流。过去10年,部分业务用户和数据分析师比较喜欢通过桌面分析软件开展离线数据分析,这一过程为先下载企业数据,再离线开展探索式分析。这种去中心化的探索式分析带来了很大的回报,也带来了管理失控的巨大风险。Gartner分析师们在魔力象限报告中指出,IT驱动和业务驱动就像“钟摆”的两个极端,居于“钟摆”中间位置的良好的企业管控之下的中心化的探索式分析将成为主流。
3. 云计算改变着企业IT建设,但处于Gartner魔力象限报告领导者象限的BI厂商,收入无一例外不是On-Premise为主,SaaS为辅。我们认为这是数据分析行业的特殊性使然:数据分析必须基于企业数据,一般情况下企业数据在哪里数据分析就发生在哪里,而当前90%以上的企业数据仍然存储在大量的承载着核心业务的On-Premise系统中。随着云端部署的缓慢上升,BI厂商的SaaS收入在总收入里的占比也会缓慢上升。我们没有看到可信的研究报告,因而不知道该比例的具体年增速如何,不过相信10年内会超过50%。
4. 伴随着大数据、深度分析、自然语言查询、搜索、流计算等技术的不断进步,商业智能与分析行业仍然处于巨大的技术变革中。越来越多没有IT技术背景的业务用户将有机会利用商业智能与分析平台获取洞察,这将深刻地改变各行各业的竞争态势,那些有远见卓识的企业无比看重数据的价值和洞察,会在5年之内实现全员探索式分析,并通过数据化运营智慧企业在未来10年取得优势地位。
5. 商业智能与分析是一个充分竞争的全球化市场,这对创业者的要求越来越高。商业智能与分析是一个充分竞争的全球化市场,创业伊始你在产品或营销的能力是最羸弱的时候,你就不得不与IBM、SAP、Microsoft、Tableau等国际巨头同台竞技。因此,在该领域的创业者除了需要技术,更需要远见和洞察,以看清楚趋势并持续投入。这样,在趋势成为主流的时候才可能处于优势地位。
6. 分析应用市场将涌现巨大的创业机会。举个例子,办公软件领域的几个主流厂商共同推出了开放标准的文件格式,使用不同办公软件的用户可以轻松分享生成的办公文件。我们相信,在不久的将来数据接口将会更好地遵循开放标准,而数据模型和分析模型的存储也将拥有开放标准。在此基础上,基于On-Premise和SaaS的数据模型和分析模型将有机会在全球市场进行分享。最终,这将像App Store或Google Play一样,形成巨大的分析应用市场。
2016年商业智能与分析市场的发展趋势
全球商业智能与分析市场的整体份额继续扩大。根据当前Gartner对该领域的年度综合增长率的预计,市场增长率可能维持在2014年的5.8%,直至2019年。
然而,伴随着购买模式和需求的变化,不高的增长率反映了一个处于转变过程中的市场:购买决策持续从IT部门的领导转换为业务线的领导和用户,他们需要更敏捷和更灵活的个性化选择——新准则是先落地再扩展。现在与以往那种带动企业两位数增长的大规模的企业级交易截然不同,那时的IT部门掌握更多的预算,并对采购决策施加着更多影响。
在如此快速进化的市场中,带动商业智能与分析市场新增长的主要驱动力,正受到以下因素的影响:
1. 新供应商持续出现,使得市场上有更多创新的产品供买方挑选。在以后几年,买方将从关注那些提供新型BI和分析产品的供应商中获益,他们有充足的机会去投资那些进入市场的创新产品。如果买方需要试运行大量的创新产品以及大量的供应商参与到POC验证中,随着时间累积,其不利之处在于机构可能面临技术负债——作为多个独立解决方案所体现出的商业价值急速转变为缺少对设计、实施和技术支持足够关注的产品部署。在这个快速进化的BI市场中,机构需要形成正确策略和参考架构,用于评测各种可选的产品,以此降低他们的技术债务,从而避免在未来产生较多的返工和再设计的问题。
2. 随着越来越多的用户驱动的数据分析平台得以部署,监管需求正持续增长,这将触发IT部门以新的形式介入其中。最初,当市场转变时,业务用户感觉到有能力绕开IT部门通过自主采购的方式去使用能够填补他们业务缺口的BI产品。随着时间的推移,产品部署持续扩大,用户变得越来越多,使用场景变得越来越复杂——业务用户与IT部门的合作又将重新展开,他们会协同开发出敏捷的流程去支持自服务数据分析的需求,即通过适度的企业级管控,去确保恰当而负责任的使用范畴。
这将促成自服务数据准备结合探索式分析产品的场景,提供敏捷而集中的使用方式去成功地替代传统的使用方式,旧的方式往往缺乏敏捷性,而且也不支持IT部门与业务用户间的协作开发。这与在这个行业多次发生的“钟摆”现象相吻合,在这个行业,最终用户的实践最终将转向以IT为中心的方式的另一极端。在业务用户生成的内容急剧扩张的背景下,对监管的需求正在使钟摆回归至更注重企业级管控和协作的中间地带。
3. 市场对智能的探索式分析的了解和接纳会让探索式分析获取到更广泛的用户群体,新产品触及的范围和影响力也会随之增加。在不需要建模和写算法以及查询的前提下,这些新出现的功能让用户能从越来越多的、复杂的、多结构化的数据集里发现大量的隐藏模式。除了探索式分析,通过交互的可视化、搜索和自然语言查询等技术,业务用户和分析师还能从深度分析中直接获益(高亮和可视化诸如重要发现、相关性、集群、预测、异常值、反常、关联、趋势等结果)。
有些工具还会为用户说明分析结果,例如生成自然语言的文本去突出显示模式和阐释洞察。这样可以减少发现洞察的时间,也节省了手动探索和手动建模的时间开销和专业技能要求。探索式分析并非替代了高级数据分析师和数据科学家,而是为他们增加了一群公民数据科学家。这些公民数据科学家帮助他们产生了更多的设想,再随之开展更细化的探索,数据学家可以帮着确认最终结果。
4. 机构从持续增长的多结构化数据源中融合和获得洞察的需求,将推动智能的自服务数据准备和智能的探索式分析领域的持续创新。市场需要更加强大的软件功能,包括自动提取、推论、浓缩和创建搜索索引访问新数据源。以手动方式去完成这些工作将会难以匹配数据多样性和复杂度的增长,随着时间的推移这种增长将是指数级的。同时,通过自动的模式探索和洞察发现,机构可以扩大分析规模,也可以让更多的用户群体可以受益于分析洞察功能。
5. 通过自然语言查询,基于搜索的探索式分析将让更多的用户获益。由于BI和分析平台对自然语言查询支持得越来越好,更多的非技术用户能以对话提问的方式来分析数据,新用户将更有可能参与到利用探索式分析中。业务驱动的自然语言查询需要底层的基于多结构化数据的搜索功能,这一领域的进展将不断提升该功能的易用性和可信度。
6. 市场将不断扩张且更加成熟,这将为机构创造更多的机会去购买或销售分析应用。一个活跃的市场可以让买家和卖家汇聚起来交换分析应用、聚合数据源、自定义可视化和算法,这将增加对BI和分析领域的需求,并推动其未来的增长。成熟起来的市场将为BI供应商们提供新的销售渠道,基于他们平台的分析应用可以在自有的渠道和合作伙伴的渠道销售。这一成熟市场的主要好处在于这是一个面向终端用户的市场,他们几乎可以获得想要的任何分析应用,以用于内部解决方案和流程的开发。
7. 为更好地支持物联网,机构需要支持实时动态和流数据抓取。为了使机构能处理在这个互联世界中由设备、传感器和人产生的大量数据,机构必须在捕捉和加工这种数据上进行投资。BI和分析市场的竞争者们也需要在类似方面进行投资——让买家在同一平台中合并实时动态和流数据以及其他来源的数据,去开发新一代的具备很大影响的分析应用,让用户能利用这种实时洞察能力。
附:Gartner2016年商业智能和分析平台魔力象限报告
概述
这几年,全球商业智能与分析平台市场经历了从“IT主导的报表模式”往“业务主导的自服务分析模式”转折的临界点。最近发生的采购大多是现代的、以业务用户为中心的自服务数据分析平台,全新市场观念的形成,深刻地改变了全球数据分析市场格局。
战略规划设想(到2018年)
1. 作为转向部署现代BI平台的一部分,大多数业务用户和分析师都借助自服务工具进行数据准备,即自服务数据准备。
2. 大多数独立自服务数据准备工具将扩展为一站式分析平台,或者作为一部分功能集成到已有的分析平台。
3. 智能的、企业级管控的、支持Hadoop的、支持搜索和可视化的探索式分析会打包到下一代数据分析平台中,一站式平台还包含自服务数据准备和自然语言生成功能。
基于以下5个使用场景对供应商进行评估:
1.敏捷且中心化的IT驱动的交付。支持敏捷且中心化的IT驱动的BI交付。基于平台自有的数据处理能力,IT部门能实现从数据到内容的交付,整个工作流程处于良好的企业级管控之下。
2.去中心化的分析。支持业务用户实现从数据到自服务分析的工作流程。
3.良好管控下的探索式分析。在良好管控之下,支持业务用户基于数据进行自服务分析,再生成可复用的内容,再提升为系统级可复用的内容。
4.嵌入式BI。支持将数据转化为可嵌入到其他流程或应用中的BI内容。
5.公网部署。这类似第一个使用场景,但目标用户变成了外部客户、公众部门,或者普通公民。
基于以下14条标准对供应商进行评估:
- 基础构架
1.BI平台管理。具备扩展性、性能优化、高可用性,以及高容灾性等功能。
2.云BI。具备平台即服务和分析应用即服务的功能,以实现分析应用的开发、部署和管理,且支持云端部署和本地部署两种形式。
3.安全性和用户管理。具备保证平台的安全性、可监控用户行为、可审计平台的访问和使用状况等功能。
4.连接多数据源。让用户能访问结构和非结构化的数据内容,这些数据存储在各种各样的平台中,既可能在云端也可能在本地部署。
- 数据管理
5.元数据管理。让所有用户能分享同一个语义模型和元数据。利用强大且集中的功能,管理员能搜索、捕获、存储、复用各种元数据,还能把业务用户创建的数据模型提升为系统级的数据模型。
6.ETL和数据存储。具备ETL功能,可接入、融合、转换、加载数据至自有存储层,还能索引数据,管理数据加载,或通过任务计划更新数据。
7.自服务数据准备。通过拖拽式操作,用户可融合不同来源的数据,并创造分析模型,例如,自定义指标、集合、分组、层级等等,更高级的功能还包括自动语义识别、自动关联、自动可视化,数据分层,数据血统、多结构化的数据融合等。
- 分析和内容创建
8.内嵌的深度分析。让用户能轻松接入深度分析功能。除了平台自有的深度分析功能,用户也能导入或集成平台外部的分析模型。
9.分析型仪表盘。支持制作高度可交互的仪表盘和内容。当用户访问这些仪表盘时,可以进行探索式分析、深度分析、地理分析等。
10.可视化的探索式分析。支持通过操作图表的颜色、亮度、大小、形状等手法去展现数据。这也包括一系列的可视化选项,包括饼图、柱形图、线图、热量图、树状图、地图,散点图和其他特殊的图表。这些工具让用户能以可视化的交互方式来分析数据。
11.支持移动端。支持将内容交付给移动设备,这既可以是发布模式也可以是交互模式,还支持移动设备自有的各种功能,例如触屏、拍照、地理位置、自然语言查询等。
- 知识分享
12.嵌入式分析。通过SDK和API接口,以开放标准支持创建和修改分析内容,以嵌入到其他业务流程、应用,或门户中。平台既可以在应用内也可以在应用外支持这些功能,但必须简单而无缝地集成到应用内,让用户无需在不同应用之间来回切换。平台还让用户能选择需要嵌入的业务流程。
13.发布分析内容。让用户能以各种输出形式和分发方式对分析内容进行发布、部署、操作。平台应支持内容搜索、故事叙述、任务计划、预警等功能。
14.协作与社交。让用户能以帖子、聊天、注释等方式分享并讨论基础数据、分析方法、分析内容等。
图:Gartner2016年商业智能与分析平台魔力象限