数字冰雹创始人邓潇:2017大数据可视化的关键技术及行业应用
大数据可视化的内涵与意义
大数据可视化就是利用视觉的方式将那些巨大的、复杂的、枯燥的、潜逻辑的数据展现出来,无论通过地理空间、时间序列,还是逻辑关系等不同维度,最终使读者在短时间内理解数据背后的规律与价值。她是探讨、交流和洞察数据的最佳方式。
数据可视化改变了传统业务系统数据呈现复杂枯燥,难以理解的困境,实现了信息的有效传达,将艺术性与功能性并重,通过多样、恰当、精细的展现、交互方式,高效能的呈现出数据背后隐藏的趋势、规律和关系。
大数据可视化的关键技术
数据可视化系统是与用户直接对话、帮助用户完成决策的载体工具;一个优秀的数据可视化系统,完美体验加高颜值的外表之下,隐藏着大数据整个产业链领域的融会贯通:从数据清理集成,到数据存储整合,再到数据分析挖掘,之后进行可视化呈现,最终完成人机交互的完美体验,整个过程缺一不可。
一、数据集成处理
原始数据来源庞杂,各式各样,可能来自传感器、业务人员操作记录、网络日志等各种不同来源;可能是结构化数据、文本数据也有可能是图像、视频等,大数据的特点决定了这些数据会存在着不一致、重复、含噪声等问题。在数据应用之前,需要通过数据清理、数据集成、数据变换、数据归约等手段对这些问题进行处理,以达到可以用于数据分析的目的。
二、数据存储管理
由于大数据具备4V的特点(即Volume、Variety、Value和Velocity,意为数据体量巨大、数据类型繁多、价值密度低和处理速度快),仅依赖传统的结构化数据库已经无法完成相应的存储、管理任务。而需要引入键值数据库、列存数据库、图存数据库、文档型数据库等非机构化数据库数据技术,同时运用分布式、云存储等技术对数据加以存储和管理,实现海量批处理和高速流处理。
面对这样复杂的数据管理机制,则需要一个统一的数据管理平台,在应用层面对数据存储资源进行统一管理控制。
三、数据分析、挖掘
1、多维联动分析
不止可视化数据,更要可视化观点。通过专业的统计数据分析系统设计方法,理清海量数据指标与维度,按主题、成体系呈现复杂数据背后的联系;将多个视图整合,展示同一数据在不同维度下呈现的数据背后的规律,帮助用户从不同角度分析数据、缩小答案的范围、展示数据的不同影响。具备显示结果的形象化和使用过程的互动性,便于用户及时捕捉其关注的数据信息。
包括:
多视图整合,交互联动
任意多维度分析
数据上卷下钻,多层钻取
多样的指标计算模型
可配置的Dashboard
2、算法及模型嵌入
除了内置常见的统计算法,还需要针对不同行业的业务需求,嵌入行业专用的指标分析模型、仿真模型和预测模型等业务模型,运用深度学习算法等前沿科技成果,以适应行业用户的不同业务需求。
3、数据挖掘
数据挖掘是一种高级的数据分析方法,侧重解决四类数据分析问题:分类、聚类、关联和预测,重点在寻找模式与规律。数据挖掘往往是目标不是很清楚,在实现目标的过程中采用什么方法不能确定,所以数据挖掘比数据分析难度要高很多。优异的数据可视化决策系统,应该具备优异的数据发现、相关性分析等功能支持,并且提供友好的交互方式和直观的可视化呈现表达手段。
四、数据可视化
数据可视化将各种类型的数据,通过不同的呈现方式,包括结合地理信息系统、数据统计图表、三维建模、时空态势展示等丰富的展现形式,将数据直观地呈现给用户。
一个成熟的可视化产品平台是基础技术保障,能够保证系统的交付质量与效率。比如数字冰雹的可视化产品包括了人机交互引擎、数据驱动引擎、图像渲染引擎、多维分析引擎等一系列基础产品平台;这些基础产品来自于数年技术与经验的积累,在应用当中不断完善,确保了项目高水准的实施与交付。
五、人机交互
数据最终是要和人打交道,人机交互设计是非常重要的。一个良好的数据可视化分析环境,是要从推开门那一刹那开始体验的,即人机交互包括最终的数据可视化软件系统,也包括了用于数据呈现或交互的各种显示、控制设备。一个适用的人机交互方案,要根据用户的使用情境来设计,针对形象展示厅到大型指控中心等不同环境,以及各个应用行业的各类需求,都会有不同的交互解决方案。
数据可视化行业应用
大数据可视化系统最终是要应用到行业中去的,数字冰雹基于多年来积累的基础可视化产品组件,又与行业深度结合,基于各个行业不同的需求,形成针对各行业的基础产品。
航天军工可视化系统
数字冰雹的航天军工态势感知平台是面向航天军工领域的高级可视化仿真解决方案。平台拥有几近写实的视觉效果,实时动态的战场环境与态势仿真,灵活自由的大屏多屏操作模式,强大的数据多维分析,无以伦比的大数据性能,以及对无边界的复杂场景的支持。
战场态势可视化拥有全三维战场态势,多样化的二维电子地图,支持海陆空天电大规模联合作战的战略、战役、战术全层面可视化,同时支持复杂电磁态势、作战辅助信息的呈现。
智慧城市大数据可视化系统
数字冰雹的智慧城市大数据可视化系统,能够将城市运行核心系统的各项关键数据进行可视化呈现,从而对包括应急指挥、城市管理、公共安全、环境保护、智能交通、基础设施等领域进行管理决策支持,进而实现城市智慧式管理和运行。
系统支持集成包括地理信息、GPS数据、建筑物三维数据、统计数据、摄像头采集画面等多类数据,可以把政府各个部门、各种类型的数据融合打通,包括市政、警务、消防、交通、通讯、商业等,汇集在此统一的大数据平台之上,用于综合管理监控城市整体运行态势。
网络安全态势感知平台
数字冰雹的网络安全态势感知平台,能够将抽象的网络和系统数据进行可视化呈现,从而对网络中的安全设备、网络设备、应用系统、操作系统等整体环境进行安全状态监测,帮助用户快速掌握网络状况,识别网络异常、入侵,把握网络安全事件发展趋势,全方位感知网络安全态势。
系统功能包括网络安全态势感知、IT运维可视化、信息资产监测、安全决策驾驶舱以及安全数据情报分析等。
企业管理可视化平台
数字冰雹的商业智能可视化平台,能够结合各行各业独特的指标和 KPI 表示方式,通过数据多维度、可交互联动分析,实时解答用户问题,对政府、金融、零售、电商、环保、电信、医疗、房地产等领域进行管理决策支持。
系统将数据按主题、成体系地加以呈现,统计数据既可以加载于综合页面之上,也可单独形成专门的数据统计分析主题页面,展示数据在不同维度下呈现的数据背后的规律,帮助用户从不同角度观察、分析数据,聚焦趋势规律。
工业监控可视化平台
数字冰雹提供的工业监控可视化平台,可以实现与用户原有的自动控制系统相结合,通过虚拟现实和数据仪表盘等多种展现手段,为大数据时代的工业生产监控和虚拟制造应用,提供效果最优异的可视化解决方案。
系统支持将虚拟现实技术有机融入到工业监控系统,以真实厂房生产线的仿真场景为基础,对各个工段、重要设备的形态进行复原,并实时反映其运行状态。针对各种运行数据,例如设备温度、转速、电流、电压以及各种实时产能、统计汇总数据的监控,我们充分发挥数据仪表盘中各种图表的展现优势,针对不同岗位监控的需要对数据仪表进行合理分组,以实现快速状态切换,适应不同场景。
数据可视化是科学、艺术和设计的结合,当枯燥隐晦的数据被数据科学家们以优雅、简明、直观的视觉方式呈现时,带给人们的不仅仅是一种全新的观察世界的方法。数字冰雹希望通过我们的努力,真正帮助客户实现“驾驭数据、洞悉价值”的目标,用好大数据,切实提升决策效率与能力。
分享嘉宾:邓潇
北京数字冰雹信息技术有限公司创始人、董事长。曾在众多国际计算机技术大赛中屡获桂冠,被比尔盖茨亲自授予“创新英雄”奖。在大数据可视化及人机交互开发领域拥有十余年经验,对行业有着深刻的理解与认知。带领团队自主研发的核心平台产品AVE(Advanced Visualization Engine先进可视化引擎)是国内首屈一指的数据可视化系统产品,在业内已拥有一定影响力和良好的声誉,广泛应用到航天战场、智慧城市、网络安全、工业监控、企业管理等领域。
☞点击进入 数字冰雹 在数据观的企业栏目>>>
责任编辑:陈近梅