从IT时代到DT时代,大数据已成为一场革命,正在改变人们的生活、工作和思维方式。大数据标准研制作为产业发展基础,目前仍处于起步阶段。为实现数据间无歧义沟通,元数据标准研究与应用显得更为迫切。
在研国标有10项
大数据领域的标准化工作是支撑大数据产业发展和应用的重要基础。记者近日从全国信标委大数据标准工作组第二次会议上获悉,目前大数据相关标准研制还处于起步阶段。国际上有4大标准化组织针对大数据进行专门研究,分别是ISO/IEC JTC1 SC32、ISO/IEC JTC1 WG9、ITU和NIST。
为了推动和规范我国大数据产业的快速发展,建立大数据的产业链,与国际标准接轨,我国在2014年12月正式成立了全国信息技术标准化技术委员会大数据标准工作组(以下简称工作组)。工作组主要负责制定和完善我国大数据领域标准体系,组织开展大数据相关技术和标准的研究,申报国家、行业标准,承担国家、行业标准制修订计划任务,宣传、推广标准实施,组织推动国际标准化活动。目前,工作组正在研制的国家标准有10项,其中《信息技术大数据术语》和《信息技术大数据技术参考模型》两项国家标准已经完成相应的草案,准备进入征求意见阶段。
“目前已有138家单位申请成为工作组成员。”中国电子技术标准化研究院副院长高林表示,“工作组下一步将继续完善和维护工作组工作平台,加强元数据、数据分类、数据开放共享等方面的标准化研究,同时将积极开展测试评价、认证等相关准备工作。”
值得一提的是,在研究提出大数据技术框架的基础上,结合数据全周期管理,数据自身标准化特点,当前各领域推动大数据应用的初步实践,以及未来大数据发展的趋势,工作组提出了大数据标准体系框架。大数据标准体系由五个类别的标准组成,分别为:基础标准、技术标准、产品和平台标准、大数据安全标准及应用和服务标准。
有专家认为,针对大数据,我国在数据管理、云计算、信息安全等方面,已经发布和在研一些标准,适用于大数据环境,提供了一定的基础,但是缺乏标准化整体规划;数据分析、数据安全、数据质量管理等技术标准,数据处理平台、开放数据集、数据服务平台类新型产品和服务形态的标准较为缺乏,亟须研制。
需加强元数据标准研究
近年来,大数据技术已经开始步入高速发展阶段,国内外从事大数据方面研究和服务的公司越来越多,行业分得越来越细。不过,在行业应用中,由于缺乏统一的数据描述,数据在解释、同步、转换过程中时常会存在歧义,数据拥有者不能及时地按业务要求提供正确的数据时有发生。因此,在大数据时代,借助于元数据了解数据元素含义和上下文的需求越来越强烈。
记者了解到,ISO/IEC JTC1 SC32下设4个工作组研究不同领域的标准研制,其中就包括元数据。其范围涉及研制开发和维护有利于规范和管理的元数据、元模型和本体的标准,此类标准有助于理解和共享数据、信息和过程,支持互操作性,电子商务以及基于模型和基于服务的开发,包括:建议用于规定和管理元数据、元模型和本体的框架;规定和管理元数据、元模型和本体;规定和管理过程、服务和行为数据;开发管理元数据、元模型和本体的机制,包括注册和存储;开发交换元数据、元模型和本体的机制,包括基于互联网、局域网等的语义。
对于我国元数据标准制定,有专家就指出,我国迫切需要加强元数据标准或元数据模型的研究与应用,健全完善元数据标准规范及元数据模型。需要充分结合政府各部门现有数据资源建设情况,针对当前政务大数据资源、科技大数据资源、电子商务大数据资源等重点领域,研制元数据标准或统一的元数据标准模型框架,使得大数据向着标准化、条理化、脉络化方向发展,实现无歧义沟通、理解和使用数据。解决当前数据在交易、使用等过程中存在的问题,更好地对数据进行管控,挖掘大数据,发挥数据价值。
相关链接
大数据标准体系中五类标准
基础标准
基础标准是指为整个标准体系提供包括总则、术语和参考模型、元数据等基础性标准。
技术标准
主要针对大数据相关技术进行规范。包括数据治理和数据质量两类标准。其中,数据治理标准主要针对数据的收集、预处理、分析、可视化、访问、能力成熟度评价模型等方面进行规范。数据质量标准主要针对数据质量提出具体的管理要求和相应的指标要求,确保数据在产生、存储、交换和使用等各个环节中的质量,为大数据应用打下良好的基础,包括质量评价、数据溯源、质量检测等标准。
产品和平台标准
主要针对大数据相关技术产品和应用平台进行规范。包括关系型数据库产品、非结构化数据管理产品、智能工具、可视化工具、数据处理平台和测试规范六类标准。其中关系型数据库产品标准针对存储和处理大数据的关系型数据库管理系统,从访问接口、技术要求、测试要求等方面进行规范,为关系型数据库管理系统进行大数据的高端事务处理和海量数据分析提供支持;非结构化数据管理产品标准针对存储和处理大数据的非结构化数据管理系统,从参考架构、数据表示、访问接口、技术要求、测试要求等方面进行规范;智能工具用来帮助用户对大数据进行分析决策,包括ETL、OLAP、数据挖掘等工具,智能工具标准对智能工具的技术及功能进行规范;可视化工具是对大数据处理应用过程中所需用到的可视化展现工具的技术和功能要求进行规范;大数据平台标准是针对大数据存储、处理、分析系统从技术架构、建设方案、平台接口等方面进行规范;测试规范针对大数据的产品和平台给出测试方法和要求。
大数据安全标准
数据安全作为数据标准的支撑体系,贯穿于数据整个生命周期的各个阶段。抛开传统的网络安全和系统安全,大数据时代下的数据安全标准主要包括通用要求、隐私保护两类标准。
应用和服务标准
应用和服务类标准主要是针对大数据所能提供的应用和服务从技术、功能、开发、维护和管理等方面进行规范。主要包括开放数据集、数据服务平台和领域应用数据三类标准。其中开放数据集标准主要对向第三方提供的开放数据包中的内容、格式等进行规范;数据服务平台标准是针对大数据服务平台所提出的功能性、维护性和管理性的标准;领域应用数据指的是各领域根据其领域特性产生的专用数据标准,包括工业电子商务等领域。