一、大数据推动信息产业创新
大数据是指一般的软件工具难以捕捉、管理和分析的大容量数据,一般以“太字节”为单位,大数据之“大”,并不仅仅在于“容量之大”,更大的意义在于:通过对海量数据的交换、整合和分析,发现新的知识,创造新的价值,带来“大知识”、“大科技”、“大利润”和“大发展”。信息管理专家涂子沛在其专著中如是定义大数据。
根据IDC(国际数据公司)的监测统计,2011年全球数据总量已经达到1.8ZB(1ZB等于1万亿GB,1.8ZB也就相当于18亿个1TB移动硬盘的存储量),而这个数值还在以每两年翻一番的速度增长,预计到2020年全球将总共拥有35ZB的数据量,增长近20倍。
美国社会思想家托夫勒在《第三次浪潮》中提出,“如果说IBM的主机拉开了信息化革命的大幕,那么大数据才是第三次浪潮的华彩乐章。”大数据将为信息产业带来新的增长点。面对爆发式增长的海量数据,基于传统架构的信息系统已难以应对,同时传统商业智能系统和数据分析软件,面对以视频、图片、文字等非结构化数据为主的大数据时,也缺少有效的分析工具和方法。信息系统普遍面临升级换代的迫切需求,为信息产业带来新的、更为广阔的增长点。
开源分析机构Wikibon预计,2012年全球大数据企业营收为50亿美元,未来5年的市场复合年增长率将达到58%,到2017年将达到500亿美元。IDC则预测大数据技术与服务市场将从2010年的32亿美元攀升至2015年的169亿美元。尽管所预测的产业规模存在差别,但所给出的高增速说明两家机构对大数据的发展前景都充满信心。从实际看,作为第一家专注于大数据领域的上市企业,Splunk凭借大数据监测和分析业务,营业收入连续4年实现80%以上的高速增长。
赛迪智库权威专家表示,大数据将加速信息技术产品的创新融合发展。面向大数据市场的新产品、新技术、新服务、新业态正在不断涌现。大数据面临着有效存储、实时分析等挑战,必将对芯片、存储产业产生重要影响,推动一体化数据存储处理服务器、内存计算等产品的升级创新。对数据快速处理和分析的需求,将推动商业智能、数据挖掘等软件在企业级的信息系统中得到融合应用,成为业务创新的重要手段。同时,物联网、移动互联网的迅速发展,使数据产生速度加快、规模加大,迫切需要运用大数据手段进行分析处理,提炼其中的有效信息。大数据应用也给云计算带来落地的途径,使得基于云计算的业务创新和服务创新成为现实。而以以上领域为切入点,大数据将推动整个信息产业的创新发展。
二、大数据将改变经济社会管理面貌
大数据作为一种重要的战略资产,已经不同程度地渗透到每个行业领域和部门,其深度应用不仅有助于企业经营活动,还有利于推动国民经济发展。麦肯锡研究表明,在医疗、零售和制造业,大数据可以每年提高劳动生产率0.5~1个百分点。
赛迪智库权威专家表示,宏观层面,大数据使经济决策部门可以更敏锐地把握经济走向,制定并实施科学的经济政策。微观方面,大数据可以提高企业经营决策水平和效率,推动创新,给企业、行业领域带来价值:
一是增加收入。零售商可通过对海量数据的实时分析掌握市场动态并迅速作出应对,通过精准营销增加营业收入;二是提高效率。在制造业,通过整合来自研发、工程和制造部门的数据以便实行并行工程,可以显著缩短产品上市时间并提高质量;在市场和营销方面,大数据能够帮助消费者在更合理的价格范围内找到更合适的产品来满足自身的需求,提高附加值。三是推动创新。企业可从产品开发、生产和销售的历史大数据中找到创新的源泉,从客户和消费者的大数据中寻找新的合作伙伴,以及从售后反馈大数据发现额外的增值服务,从而改善现有产品和服务,创新业务模式。
大数据技术作为一种重要的信息技术,对于提高安全保障能力、应急能力、优化公共事业服务,提高社会管理水平的作用正在日益凸显。增强安全保障能力。在国防、反恐、安全等领域应用大数据技术,能够对来自于多种渠道的信息快速进行自动分类、整理、分析和反馈,有效解决情报、监视和侦察系统不足等问题,提高国家安全保障能力。
三、大数据存储管理挑战及管理技术
目前电信、金融、零售等行业希望通过大数据的分析手段来帮助自己做出理性的决策。特别是电信和金融行业表现尤为突出,市场数据没有办法与用户消费数据打通。而它们面临的第一个问题就是海量数据存储的问题。多数企业正在试图建设自己的数据中心,来满足大规模的数据量的产生,但是随着数据的进一步增多,很多数据的查询和分析性能急剧下降,有的数据中心甚至出现了无法响应的状况,为企业的业务带来了很大损失。
企业的CIO们有着这样的疑虑,怎样的数据管理策略能够对数据进行有效的保护,而且在需要时,让数据随时转变成价值的问题。只有数据与适合的存储系统相匹配,制定出管理数据的战略,才能高成本,高可靠,高效益的应对大量数据。对于企业来说,面临大数据首先解决的问题就是成本和时间效应问题。商机不容错过,而存储数据管理,可以通过自动化,磁盘和重复数据删除,备份和归档的软件,让企业的关键数据分存在不同的区域,然后按照特定的业务需求,对数据进行提取,操作和分析,并形成企业所需要的目标数据。大数据面临的存储难题迎刃而解。
大数据的关注度在不断升温,而大数据管理的技术也层出不穷。在众多技术中,有6种数据管理技术普遍被关注,即分布式存储与计算、内存数据库技术、列式数据库技术、云数据库、NoSQL、移动数据库技术。其中分布式存储与计算受关注度最高。
分布式存储与计算架构可以让大量数据以一种可靠、高效、可伸缩的方式进行处理。因为以并行的方式工作,所以数据处理速度相对较快,且成本较低,Hadoop和NoSQL都属于分布式存储技术的范畴。
内存数据库技术可以作为单独的数据库使用,还能为应用程序提供即时的响应和高吞吐量,SAP的HANA是该技术的典型代表。
列式数据库的特点是可以更好的应对海量关系数据中列的查询,占用更少的存储空间,这也是构建数据仓库的理想架构之一。
云数据库可以不受任何部署环境的优势,随意的进行拓展,进而为客户提供适宜其需求的虚拟容量,并实现自助式资源调配和自助式使用计量。目前微软的SQL Server可以提供类似的服务。
NoSQL数据库适合于以下场景,即庞大的数据量、极端的查询量和模式演化。企业可以NoSQL得到高可扩展性、高可用性、低成本、可预见的弹性和架构灵活性的优势,甲骨文在2011年推出Oracle NoSQL数据库。
移动数据库技术是适应移动计算产物。随着智能移动终端的普及,人们对移动数据实时处理和管理要求的不断提高,移动数据库具有平台的移动性、频繁断接性、网络条件的多样性、网络通讯的非对称性、系统的高伸缩性和低可靠性以及电源能力的有限性等,也正是因为这些特性被业界所重视。
四、我国大数据发展策略
中科院计算所网络数据科学与工程研究中心主任程学旗在接受本刊记者专访中表示:“数据的规模如此之大,现有的IT技术根本没有办法分析处理,价值难以得到有效利用。对这些数据的感知、分析,同时加以商业化,就是大数据技术需要完成的工作。”如何挖掘大数据的价值是重中之重。
我国应将大数据作为新一轮科技竞争和产业竞争的战略重点和制高点,充分认识“数据、技术、应用”三位一体、有机统一的内涵,掌握未来大数据发展主动权。为此,赛迪专家建议重点开展以下四方面工作:
首先,布局关键技术研发创新。
总体来看,大数据的技术门槛较高,目前在大数据领域展开竞争的信息技术企业多是在数据存储、分析等领域有着传统优势的厂商。为实现产业升级,为在技术产业发展中不落人后甚至实现弯道赶超,我国不能再跟随发展,必须及早布局关键技术和新兴技术的研发应用。
一是以数据分析技术为核心,加强人工智能、商业智能、机器学习等领域的理论研究和技术研发,夯实发展基础。
二是加快非结构化数据处理技术、非关系型数据库管理技术、可视化技术等基础技术研发,并推动与云计算、物联网、移动互联网等技术的融合,形成较为成熟、可行的解决方案。
三是面向大数据应用,加强网页搜索技术、知识计算(搜索)技术、知识库技术等核心技术的研发,开发出高质量的单项技术产品,并与数据处理技术相结合,为实现商业智能服务提供技术体系支撑。
其次,提高软件产品发展水平。
一是推动以企业为核心的产学研用合作,加快提高软件发展水平,为大数据发展和应用奠定基础。
二是利用本土语言优势,结合云计算技术与服务,加快中文数据采集、汇总与分析,加快开发和建设中文知识库、数据库与规则库。
三是利用产业发展引导资金,鼓励软硬件企业和服务企业应用新型技术,与信息内容服务相结合,面向实际的大数据应用提供具有行业特色的系统集成解决方案和数据分析服务。
四是以百度、腾讯、阿里巴巴等企业牵头,基于开源、开放操作系统或应用平台,整合优势资源,聚集一批有实力、有特色的中小互联网信息服务提供商,加速本土化信息服务的开拓与整合,形成良性发展的生态系统。
五是以有基础优势的数据处理软件商牵头,统合各方技术优势与数据优势,形成完整、可实用的数据分析软件,不断提高服务内容的精确度与匹配度。同时培育形成一批具有较高集成水平、较强市场能力的大数据解决方案提供商,为大数据在各行业领域的应用提供成熟解决方案。
第三,加速推进大数据示范应用。
一是面向医疗、能源、金融、电信、流通等数据量大的领域,引导行业厂商参与,大力发展数据监测、商业决策、数据分析、横向扩展存储等软硬件一体化的行业应用解决方案。
二是面向智慧城市建设与百姓日常生活需求,加快推动大数据在智慧城市建设及个人娱乐、生活服务领域的应用,不断提升数字内容加工处理软件等服务发展水平。
三是推动行业数据的深加工服务。大力开发深度加工的行业数据库,对高科技领域数据进行深度加工,建立基于不同行业领域的专题数据库,提供内容增值服务。
四是选择重点领域、重点企业,鼓励其应用数据清洗等手段,对企业积累的数据进行初步分析整理,去除重复数据,减少噪音数据,提高大数据集合的建设质量。
第四,优化完善大数据发展环境。
一是要加强大数据应用背景下信息安全问题的研究,应对好大数据应用可能带来或面临的信息安全风险,特别是研究面向基于大数据的情报收集分析工作的信息保密问题。
二是要明确数据分析处理服务的价值和作用,支持数据加工处理企业发展,将具备一定能力企业的数据加工处理业务列入营业税优惠政策享受范围。
三是完善相关体制机制,以政府为切入点,推动信息资源的集中共享,夯实大数据的应用基础。
五、2016年大数据收入将达238亿美元
IDC最近发布的报告显示,全球大数据技术及服务市场年复合增长率将达31.7%,2016年收入将达238亿美元,其增速约为ICT市场整体增速的7倍之多。在现有和新兴细分市场中,大数据市场融合技术与服务正呈现迅猛的发展势头。尽管情况发展会存在多种可能,供需也存在重大变数,但IDC认为,2012~2016 年该市场仍将呈现强劲增长。
IDC商业分析及大数据研究副总裁Dan Vesset认为,大数据技术及服务市场呈快速增长之势,将给全球带来数十亿美元的市场机遇。它已成为许多企业高管议事日程中的一个重要议题,而对于具备适当的技术、分析、沟通和专业知识的人才而言,它带来了不少极具吸引力的工作机会。
这份报告显示,大数据各细分市场增速不等,从服务市场的21.1%到存储市场的53.4%。与其他基础设施细分市场相比,存储市场年复合增长率最高,这归功于目前大数据环境下对存储能力的双重利用。分析及大数据技术能力的短缺将推动越来越多的买家转向云解决方案和云设备。为解决上述技术短板问题,在信息管理和分析的生命周期中,自动化将受到更多的重视,更多的公司将不再仅仅着眼于技术外包,而是会寻求分析服务的外包。在2012~2016年的预测期之后,面向机器生成数据的大数据解决方案将赢得更多的关注。
六、中国大数据概念股一览
继物联网、云计算、互联网、移动互联网之后,“大数据”(BigData)主题投资近日在业内引起高度关注。
最早提出“大数据”时代已经到来的机构是全球知名咨询公司麦肯锡。数据本身是资产,也是云计算内在的灵魂和必然的升级方向。全球互联网巨头都已意识到了“大数据”时代,数据的重要意义。包括EMC、惠普、IBM、微软在内的全球IT巨头纷纷通过收购“大数据”相关厂商来实现技术整合,亦可见其对“大数据”的重视。
工信部发布的物联网“十二五”规划上,把信息处理技术作为4项关键技术创新工程之一被提出来,其中包括了海量数据存储、数据挖掘、图像视频智能分析,这都是大数据的重要组成部分。而另外3项信息感知技术、信息传输技术、信息安全技术,也与“大数据”密切相关。