新闻中心
NEWS INFORMATION
当前位置:网站首页 > 新闻中心
大数据发展趋势(一)
发布时间:2019-11-06

随着云计算、物联网、移动互联网等新一代信息技术的迅猛发展,数据的数量、规模不断扩大,数据已日益成为土地、资本、技术之后的又一种重要的生产要素,并将必然是全球各个国家和地区争夺的重要资源。谁掌握数据的主动权和主导权,谁就能赢得未来。奥巴马政府将数据定义为“未来的新石油”,认为一个国家拥有数据的规模、活性及解释运用的能力将成为综合国力的重要组成部分,对数据的占有和控制将成为继陆权、海权、空权之外的另一个国家核心权力。在此情况下,一个全新的概念——大数据(Big Data)开始风靡全球。可以预见,新一轮的国际竞争尤其是大国竞争,在很大程度上是通过大数据增强对世界局势的掌控力和主导权。目前,美国、欧盟、日本等发达国家和地区已相继出台了相关的战略规划和配套法规以促进大数据应用与发展,致力于利用大数据来进一步增强自身的综合竞争力。

近年来,我国数据生成能力空前提升,数据呈现井喷式的爆发性增长,大数据应用已经渗透到各个行业和领域。在此背景下,我国也充分认识到大数据的重要性,相关部门先后颁布了《关于运用大数据加强对市场主体服务和监管的若干意见》《关于促进大数据发展的行动纲要》等重要文件,希望通过发展大数据,来提升政府治理能力、经济发展质量乃至国家综合实力。本文将通过研究国外发达地区大数据发展的实践,分析我国大数据的发展现状和存在的问题与挑战,并在借鉴国外先进经验的基础上,提出推动我国大数据快速、健康发展的合理化建议。

一、大数据的概念与内涵

(一)定义

“大数据”的概念早已有之,1980年著名未来学家阿尔文·托夫勒便在《第三次浪潮》一书中将大数据赞颂为“第三次浪潮的华彩乐章”。但是直到近几年,“大数据”才与“云计算”“物联网”一道,成为互联网信息技术行业的流行词汇。2008年,在谷歌成立10周年之际,著名的《自然》杂志出版了一期专刊,专门讨论未来的大数据处理相关的一系列技术问题和挑战,其中就提出了“Big Data”(大数据)的概念。2011年5 月,在“云计算相遇大数据” 为主题的EMC World 2011 会议中,易安信(EMC)也抛出了Big Data概念。所以,很多人认为,2011年是大数据元年。

此后,诸多专家、机构从不同角度提出了对大数据的理解。当然,由于大数据本身具有较强的抽象性,目前国际上尚没有一个统一公认的定义。维基百科认为大数据是超过当前现有的数据库系统或数据库管理工具处理能力,处理时间超过客户能容忍时间的大规模复杂数据集。全球排名第一的企业数据集成软件商Informatica认为大数据包括海量数据和复杂数据类型,其规模超过传统数据库系统进行管理和处理的能力。亚马逊网络服务(AWS)、大数据科学家JohnRauser提到一个简单的定义:大数据就是任何超过了一台计算机处理能力的庞大数据量。百度搜索的定义为:“大数据”是一个体量特别大,数据类别特别大的数据集,并且这样的数据集无法用传统数据库工具对其内容进行抓取、管理和处理。互联网周刊的定义为:“大数据”的概念远不止大量的数据(TB)和处理大量数据的技术,或者所谓的“4个V”之类的简单概念,而是涵盖了人们在大规模数据的基础上可以做的事情,而这些事情在小规模数据的基础上是无法实现的。换句话说,大数据让我们以一种前所未有的方式,通过对海量数据进行分析,获得有巨大价值的产品和服务,或深刻的洞见,最终形成变革之力。

综合上述不同的定义,我们认为,大数据至少应包括以下两个方面:一是数量巨大,二是无法使用传统工具处理。因此,大数据最重要的是如何使用。它强调的不仅是数据的规模,更强调从海量数据中快速获得有价值信息和知识的能力。

(二)特征

一般认为,大数据主要具有以下四个方面的典型特征:规模性(Volume)、多样性(Varity)、高速性(Velocity)和价值性(Value),即所谓的“4V”。

1规模性。大数据的特征首先就体现为“数量大”,存储单位从过去的GB(千兆字节)到TB(1024GB),直至PB(1024TB)、EB(1024PB)。随着信息技术的高速发展,数据开始爆发性增长。社交网络(微博、推特、脸书)、移动网络、各种智能终端等,都成为数据的来源。淘宝网近四亿的会员每天产生的商品交易数据约20TB;脸书约10亿的用户每天产生的日志数据超过300TB。迫切需要智能的算法、强大的数据处理平台和新的数据处理技术来统计、分析、预测和实时处理如此大规模的数据。

2多样性。广泛的数据来源,决定了大数据形式的多样性。大数据大体可分为三类:一是结构化数据,如财务系统数据、信息管理系统数据、医疗系统数据等,其特点是数据间因果关系强;二是非结构化的数据,如视频、图片、音频等,其特点是数据间没有因果关系;三是半结构化数据,如HTML文档、邮件、网页等,其特点是数据间的因果关系弱。

3高速性。与以往的档案、广播、报纸等传统数据载体不同,大数据的交换和传播是通过互联网、云计算等方式实现的,远比传统媒介的信息交换和传播速度快捷。大数据与海量数据的重要区别,除了大数据的数据规模更大以外,大数据对处理数据的响应速度有更严格的要求。实时分析而非批量分析,数据输入、处理与丢弃立刻见效,几乎无延迟。数据的增长速度和处理速度是大数据高速性的重要体现。

4价值性。这也是大数据的核心特征。现实世界所产生的数据中,有价值的数据所占比例很小。相比于传统的小数据,大数据最大的价值在于通过从大量不相关的各种类型的数据中,挖掘出对未来趋势与模式预测分析有价值的数据,并通过机器学习方法、人工智能方法或数据挖掘方法深度分析,发现新规律和新知识,并运用于农业、金融、医疗等各个领域,从而最终达到改善社会治理、提高生产效率、推进科学研究的效果。

1573048661259223.jpg

二、发达国家大数据的发展及经验启示

(一)现状

随着网络和信息技术的不断普及,人类产生的数据量正在呈指数级增长,大约每两年翻一番,而且这个速度将在2020年之前会继续保持下去。这意味着人类在最近两年产生的数据量相当于之前产生的全部数据量。有关资料显示,2011年,全球数据规模为1.8ZB(1024EB),可以填满575亿个32GB的iPad,这些iPad可以在我国修建两座长城。到2020年,全球数据将达到40ZB,如果把它们全部存入蓝光光盘,这些光盘和424艘尼米兹号航母重量相当。

在此情况下,许多国家和国际组织都认识到了大数据的重要作用。2012年7月,联合国在纽约发布了一本关于大数据政务的白皮书《大数据促发展:挑战与机遇》,总结了各国政府如何利用大数据响应社会需求,指导经济运行,更好地为人民服务,并建议成员国建立“脉搏实验室”(Pulse Labs),挖掘大数据的潜在价值。美、欧、日等发达国家和地区也纷纷将开发利用大数据作为夺取新一轮竞争制高点的重要抓手,并制定实施了各自的大数据发展战略。2012年1月,世界经济论坛年会把“大数据、大影响”作为重要议题,宣称数据已经成为一种新的经济资产类别,就像货币或黄金一样。

1美国。2010年,美国总统科学技术顾问委员会(PCAST)向奥巴马和国会提交的《规划数字化的的未来:美国总统科学技术顾问委员会给总统和国会的报告》指出,大数据技术具有重要战略价值,而联邦政府对其研发投资不足,建议联邦政府“制定一个应对‘大数据’的战略”。

此后,奥巴马政府着手采取了一系列主题为“我的大数据”(My Data Initiatives)的倡议和措施,分别为2010年发起的《“蓝纽扣”计划》、2012年发起的《“绿纽扣”计划》、2012年发起的《“我的学生数据”计划》和2014年发起《“创建副本”计划》,旨在促进美国人可以更安全地获取他们的个人数据,从而更好地处理他们私人领域的申请活动和服务。2012年3月,美国投资两亿美元启动了“大数据研究和发展”计划,该计划涉及国防部、能源部等六个联邦政府部门,用以大力推进大数据的收集、访问、组织和开发利用等相关技术的发展,进而大幅提高从海量复杂的数据中提炼信息和获取知识的能力与水平。政府对大数据带来的负面影响也更加重视,2014年5月,美国发布的白皮书《大数据:抓住机遇,守护价值》提出:大数据正在改变世界。但是它并没有改变美国人对于保护个人隐私、确保公平或是防止歧视的坚定信仰。

2欧盟。欧盟于2011年12月公开颁布了《开放数据战略》。它以开放数据为核心,以创新、增长和透明治理为引擎,将重点加强在数据处理技术、数据门户网站和科研数据基础设施三方面的投入,旨在欧洲企业与市民能自由获取欧盟公共管理部门的所有信息,建立一个汇集不同成员国以及欧洲机构数据的“泛欧门户”。目前,欧盟正在研究制定数据价值链战略计划,以实现数据的最大价值,尤其是所谓的“大数据”,重点是通过一个以数据为核心的连贯性欧盟生态体系,让数据价值链的不同阶段产生价值。数据价值链战略计划包括开放数据、云计算、高性能计算和科学知识开放获取这四大战略,遵循的主要原则是:高质量数据的广泛获得性,包括公共资助数据的免费获得;作为数字化单一市场的一部分,欧盟内数据的自由流动;寻求个人潜在隐私问题与其数据再利用潜力之间的适当平衡,同时赋予公民以其希望的形式使用自己数据的权利。

3日本。2012年6月,日本IT战略本部发布电子政务开放数据战略草案,迈出了政府数据公开的关键性一步。为了确保国民方便地获得行政信息,政府将利用信息公开方式标准化技术实现统计信息、测量信息、灾害信息等公共信息,在紧急情况时可以较少的网络流量向手机用户提供信息,并尽快在网络上实现行政信息全部公开并可被重复使用。2012年7月,日本总务省ICT(信息、通信、技术)基本战略委员会发布的《面向2020年的ICT综合战略》(草案)提出,“提升日本竞争力,大数据应用不可或缺”,战略将重点关注“大数据应用”。

2013年6月,安倍内阁正式公布了新IT战略——《创建最尖端IT国家宣言》,全面阐述了2013年—2020年期间以发展开放公共数据和大数据为核心的日本新IT国家战略,提出要把日本建设成为一个具有“世界最高水准的广泛运用信息产业技术的社会”。

(二)启示

1注重顶层设计。为充分抓住大数据带来的新发展机遇,美、日等发达国家无不从国家层面来制定大数据战略规划,提出国家实施大数据战略的明确目标,并用于引领带动本国大数据的快速发展。如美国的《我的大数据》《大数据研究和发展》等,日本《面向2020年的ICT综合战略》《创建最尖端IT国家宣言》等。另一方面,美、日等国政府除了做好大数据项目的统筹规划以外,还会提供充足的资金以支撑提升国家数据能力的基础设施建设以及促进面向大数据创新应用技术的开发,并保证政府部门数据存储需求和数据安全需求。

2注重数据开放。为保证大数据能够充分发挥作用,美、欧、日等发达国家和地区都实行了开放数据的政策。如美国的《我的大数据》分别从退伍军人健康记录、纳税信息、电力能源使用和学生助学信息四个方面进行信息公开,使得美国人可以更安全地获取他们的个人数据,用来更好地处理他们私人领域的申请活动和服务。《欧盟开放数据战略》旨在欧洲企业与市民能自由获取欧盟公共管理部门的所有信息,建立一个汇集不同成员国以及欧洲机构数据的“泛欧门户”。日本IT战略本部于2014年6月发布电子政务开放数据战略草案;并于2013年7月由日本三菱综合研究所牵头成立了“开放数据流通推进联盟”,旨在由产官学联合,促进日本公共数据的开放应用。

3注重隐私保护。随着大数据飞速增长,隐私问题也日益呈现在世人的面前。美、欧、日等发达国家和地区在强力推动大数据的同时,也充分考虑了隐私的保护。随着远程控制技术与云端储存技术在个人电脑与文件管理领域普及,美国政府正在通过发展大数据战略来完善隐私法以保证法律跟上技术发展的脚步。现今美国最高法院正从第三方数据的访问权限、数据和元数据的安全、商业数据服务的政府使用、内部威胁和持续性评估这四个方面着手来完善隐私法。欧盟通过“迎接大数据时代”的推广,呼吁成员国积极推动大数据业务,并就“数据所有权”和数据提供责任作出新规定、制定数据标准等。

4注重社会参与。由国家出资推进政府与各科研单位、高校、企业的合作,组合社会各界多元力量共同参与大数据战略,是发达国家和地区的重要经验。如美国《大数据研究和发展计划》就是以美国各级政府为主导,依托高校和科研机构,鼓励联邦政府机构和各州政府以及高校、非政府组织和企业等各种力量广泛参与,并通过多种形式进行充分的合作。日本为促进本国大数据的快速发展,成立了由三菱综合研究所牵头、东京大学等机构广泛参与的“开放数据流通推进联盟”。

 

 

责任编辑:旅游策划公司|农业策划公司|乡村旅游策划公司|企业咨询策划公司|策划公司|咨询公司|城乡文旅规划|项目可行性报告|养生养老策划公司|项目策划公司|规划设计公司


地  址:成都市双楠路龙门巷50号  电  话:028-69295652  手  机:13980851861 / 13880816811  邮  箱:zshceceo@163.com  Q Q:1183018636

Copyright @ 1998 - 2012 www.zshce.com. All Rights Reserved  四川智森企业管理咨询有限公司 备案编号:蜀ICP备2024073607号

技术支持:中联无限