登陆注册
13634200000001

第1章 前言

什么是大数据

最早提出“大数据”时代来临的是全球知名的咨询公司麦肯锡。麦肯锡公司称:“数据已经渗透到每一个行业和业务领域,成为重要的组成部分之一。人们对于海量数据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来。”

2008年9月,《自然》杂志推出了封面专栏——“大数据”,内容讲述了数据在生物、物理、工程、数学及社会经济等多方面学科所占据的位置和角色的重要性。

如今,“大数据”这个词汇俨然成了工商界和金融界的新宠。在哈佛大学担任社会学教授的加里·金说:“这是一场革命,庞大的数据资源使得各个领域开始了量化进程。无论学术界、商界还是政府,所有领域都将开始这种进程。”

说到这里,还是有人对“大数据”不明所以:到底什么是大数据?

“大数据”是从英语"Big Data"一词翻译而来的。“大数据”这一概念在近几年逐渐被人们所熟知,并为全球各大企业所重视。简单来说,“大数据”是一种巨量资料库,可以在合理时间内达到撷取、管理、处理并整理为帮助公司、企业经营和决策的资讯信息。

随着云时代的悄然到来,“大数据”渐渐得到了越来越多的企业关注。后来,业界将“大数据”概括成四个V,即大量化(Volume)、多样化(Variety)、快速化(Velocity)和价值化(Value)。

大数据不仅是量大而已

“大数据”的量到底有多大?根据2012年3月的一份调查结果显示:在短短的一天之内,互联网产生的资料内容可以刻满1.68亿张DVD;发出的社区帖子高达200万个,相当于《时代》杂志770年的文字数量;发出的邮件高达2940亿封,相当于美国两年的纸质信件数量;卖出的手机为37.8万台,高于全世界每天出生的婴儿数量37.1万……

截止到2012年,数据量已经从TB级别跃升到PB、EB乃至ZB级别。(1024GB=1TB,1024TB=1PB,1024PB=1EB,1024EB=1ZB)。国际数据公司(IDC)经过详细的调查研究,得出一个结论:2008年,全球产生的数据量为0.49ZB;2009年的数据量为0.8ZB;2010年的数据量为1.2ZB;2011年的数据量更是持续增长,竟高达1.82ZB。这个数据量,相当于全世界的每个人产生200GB以上的数据。可见,大数据的信息量有多大。

IBM公司称,截止到2013年10月,全世界所获得的数据中,有90%都是过去两年内产生的。预计到2020年时,全世界所产生的数据规模将达到今天的44倍。

当然了,“大数据”不仅是量大而已,它还具有多样化、快速化、价值化等优势。

多样化:数据的类型繁多。这种特质也让数据被分为两部分—结构化数据和非结构化数据。相对于以往那些以文本为主的结构化数据,非结构化数据越来越多,包括日志、图片、音频、视频、地理位置信息等。

快速化:处理的速度快。这是大数据区分于传统数据挖掘的最明显的特征。根据IDC的一份名为“数字宇宙”的报告,预计到2020年,全世界的数据使用量将高达35.2ZB。在如此浩瀚的数据面前,处理数据的效率快慢决定了企业生命的长短。

价值化:价值密度低。价值密度的高低与数据总量的大小成反比。

我们来举个例子:一部时长为一小时的视频,在持续不间断的监控中,有用的数据仅仅有那么一两秒而已。因此,如何通过强大的计算方式迅速地完成数据的价值“精纯度”,已成为目前“大数据”背景下需要解决的难题。

大数据—潜藏的金库

随着技术的革新,我们已经踏进大数据时代,而数据背后潜藏着巨大的商业机会,值得我们去挖掘。

根据技术研究机构IDC的研究结果可知,近年来,大量的新数据无孔不入,它们以每年50%的速度在增长。或者说,它们每两年就要翻一番,完全超出人们的预料。

事实上,我们生活的方方面面,都会因大数据的存在而发生变化。如消费习惯、兴趣爱好、人际关系,以及整个互联网的走向与潮流等,都将成为IT行业所关注的重点。当然了,这一切的获取和分析都与大数据息息相关。

我们不能说数据的圈子越来越大,而是全新的圈子越来越多。比如,全世界有数不清的数字传感器依附在汽车、工业设备、电表和板条箱上,它们能准确地掌握方位、温度、湿度、运动、振动,以及大气中的化学变化。

从一方面来说,大众媒体基础上的大数据挖掘和分析,将衍生出令人意想不到的应用;从另一方面来说,基于数据分析的营销和咨询服务也正在崛起。这些专注于数据挖掘和数据服务的公司,将成为IT行业乃至互联网服务业中的新兴力量。

以往,只有像谷歌、微软这样的全球化公司能做关于大数据的深挖和分析。但现在,大数据偏向平民化,让越来越多的IT公司有机会进入这个领域。也因此,大数据领域有了不同的数据分析和服务,促使人们不断地创新商业模式。比如在一分钟内,用户就会在Facebook(脸谱网)上发布近70万条信息;在一分钟内,用户会在Flicker(雅虎旗下图片分享网站)上传3125张照片;在一分钟内,用户就会在YouTube(世界上最大的视频网站)上点击200万次观赏……

铁一般的事实告诉互联网从业人员,这些庞大数字意味着一种全新的致富手段。可以说,它的价值不可估量。

虽然在目前来说,大数据在中国还处于初级阶段,但是它的商业价值已经告诉人们—凡是掌握大数据的公司,就相当于站在“金库的门口”。基于数据交易产生的经济效益和创新商业模式的诞生,能帮助企业进行内部数据挖掘,以便更准确地找到潜在客户,从而降低营销成本,提高企业的销售利润。

百分点信息科技的联合创始人苏萌曾说过:“未来,数据可能成为最大的交易商品。但数据量大并不能算是大数据,大数据的特征是数据量大、数据种类多、非标准化数据的价值最大化。因此,大数据的价值是通过数据共享、交叉复用后获取的最大的数据价值。”在他看来,未来,大数据将会如基础设施一样,有数据提供方、管理者、监管者,数据的交叉复用将大数据变成一大产业。

据一项统计结果显示:截止到2012年10月,大数据所形成的市场规模在51亿美元左右。到了2017年,此数据预计会上涨到530亿美元。

由此,可见“大数据”的价值所在。

改变思维模式,用数据说话

近几年,“大数据”变成了香饽饽,成为各大企业、公司、媒体甚至是学者都津津乐道的东西。他们有着不同的见解和理论,唯一相同的观点就是—大数据时代对人类有着至关重要的影响,甚至即将成为改变未来社会的重要力量。

然而,大数据究竟改变了什么呢?在人们的脑中,这个问题仍然是一个乱糟糟的毛线团,想要找到毛线的一头,却又不知道从哪里入手。

在“第五届中国云计算大会”的第二天,中国电子学会云计算专家委员会候任主任委员、中国科学院院士怀进鹏发表了一篇演讲,题为《大数据及大数据的科学与技术问题》。在演讲中,他表示:“大数据的发展可能会改变经济和社会生活,可能会改变科学研究的途径,甚而改变人类的思维方式。”

我们可以来举一个简单的例子:

苹果公司创始人史蒂夫·乔布斯在罹患癌症后,不惜花费巨额抽取了全身的DNA信息。这样一来,医生就可以根据他全身的DNA信息来判断癌细胞的变化,从而对症下药。然而,对于普通的患者来说,是拿不出巨额钱款来做这种抽取检测的。换句话说,医生只能从普通患者身上提取很小的一部分DNA信息。两者的治疗效果有多大差异,可想而知。

对此,或许你还有疑问,大数据真的能获得最全面的信息,能够找到信息的源头和结果吗?

我们再来举个简单的例子:

如果你上淘宝,登录支付宝账户,点开电子对账单,你是不是能够看到自己一年的消费曲线图?是不是能够看到每个月的支出和收入?是不是能够看到自己的钱花到哪里去了?是不是比拿笔记账清晰和准确得多?根据网络购物的数据中,你还会发现:哪个城市的男人比女人购买的东西还要多;哪个城市的人用支付宝缴纳水电费的频率最高;什么星座的男性或女性在某年的消费额最高;在一年里,在父母或亲友身上花费了多少;节假日时,什么东西最畅销……

这样庞大的数据分析,在过去单一的小数据时代根本无法做到,甚至想都想不到。大数据专家维克托·迈尔-舍恩伯格在《大数据时代》中是这样解释的:云计算在获取海量数据的同时,也带来了数据的混杂性,这会给传统的数据分析带来一些困扰。在以往,我们习惯于由数据得出具体结果。而在大数据时代,我们应当关注的是数据之间的相关关系,而不是数据之间的因果关系。

数据之间的相关关系可以帮助我们捕捉现在的线索和预测未来。如A和B的情况经常一起发生,那么只要注意到B情况发生,就能预测A的情况是怎么样的。这种“A和B”的关系在零售行业和IT行业中已被广泛运用。7-11便利店通过分析零售终端的数据,得出了这样的一个相关关系—温度低于15摄氏度,暖宝宝的销售量便增加5%。于是,只要温度低于这一度数,7-11便利店内的暖宝宝就会上架;豆瓣电台会推荐一些你可能会喜欢的音乐;当你在当当网买某本书后,系统就会提醒你—购买这本书的人中,有30%也购买了另外一本书……

这些结论或预测,都是基于大数据分析而来的。当然了,大数据也为我们带来了另一种生活方式,那就是还有更多的事物都可以数据化。通过对关键词的分析和搜索,我们可以看到购物的习惯被数据化、人际关系被数据化、社会热点和考试重点的走向也被数据化。这些数据可以导出商业潜能,更能导出社会走向。

阿里巴巴创始人马云敏锐地捕捉到大数据的巨大潜能。在2012年,他提出大数据战略,通过资源共享与数据互通创造商业价值。在每年一度的“双十一”销售热潮中,阿里巴巴以云计算为基础的数据服务,对数以亿万计的消费者需求信息进行详细地捕捉,并帮助电商随时调整销售决策。

的确,大数据的出现,不仅改变了人们的思维方式,还让更多的企业和社会决策有足够的力量和依据—以数据说话。

同类推荐
  • 关键在于落实全集

    关键在于落实全集

    本书从多个方面诠释了如何做到落实,点出落实在现在社会的应用,为有效落实提供了建设性的意见。
  • 推销人员手册

    推销人员手册

    随着信息共享的程度越来越高,许多推销员的推销手段越来越相似。如果说一个神来之笔的推销是通过“巧劲”战胜了消费者,那么注重推销过程中的每一个细节、则是这种“巧劲”的落实与体现。当推销无法靠出奇出彩制胜的时候,细节的较量便极为重要。推销在未来的竞争主要表现为细节的竞争,细节的竞争才是最终和最高的竞争层面。通过对每一个推销细节细致入微的把握,最终战胜对手。从这一点上来说,成功的推销模式也不可复制。
  • 华为狼道

    华为狼道

    华为技术有限公司成立于1987年,做代理起家,2009年跻身全球第二大信息与通信设备商,2010年成为世界500强企业,2011年入选首批“国家技术创新示范企业”、位居“中国民营企业500强”第一。20多年时间,华为逐步发展成一家业务遍及140多个国家和地区的全球化公司,以优异的成绩单演绎了什么叫做“中国企业的标杆”。华为做大做强到底凭什么?是其领军人任正非有背景?还是华为有秘密武器?《华为狼道》通过对华为的企业文化、市场扩张、技术研发、人才战略、危机管理、组织架构,以及接班人风波、不上市谜局等的剖析,揭开了华为迅速壮大的终极哲学——狼道。
  • 虎!虎!虎!三星进化

    虎!虎!虎!三星进化

    本书是有中国方正出版社策划,一套书共有十本左右,选择十几家在中国卓有成效的跨国公司,分析他们的战略、优势及本土化之路,涉及公司有三星电子、摩托罗拉、IBM、安利等知名公司。金错刀执笔三星电子一书,基本上以三星电子正面发展为主,怎么克服困难在中国发展壮大,并在品牌上取得较大突破。
  • 销售从被拒绝开始

    销售从被拒绝开始

    一位65岁的美国老人,发现自己有一份无形的资产——炸鸡秘方,于是开始四处兜售。但迎接他的是一次又一次的被拒绝。然而老人没有沮丧,没有止步,经过1009次被拒绝之后,在第1010次,终于有入采纳了他的建议,从而也有了如今遍布世界各地的快餐品牌——肯德基。1009次拒绝之后,肯德基的事业起步!
热门推荐
  • 逆天霸君

    逆天霸君

    一个电闪雷鸣的夜晚,突然天降神婴,当主角君逆天十岁的时候,收养他的老头被毒虎帮的人杀了,他便血洗了毒虎帮,杀戮和血腥开启了封印在他脑中的绝世功法。他隐入深山刻苦修习,再次出山的时候,他一手覆灭了华夏最强的四大世家,世界级的11也臣服在他脚下,千娇百媚的绝代佳人亦对他倾心,她们是否能用一腔柔情感化君逆天这个从小受尽人间冷暖的铁血男人?身世之迷解开后,他惊异的发现有一个巨大的阴谋在等待着他,是逆天而行还是………,一切尽在本书中。
  • 兵立蛮荒

    兵立蛮荒

    拥有随身空间的林海,默默努力着,争取更好的生活;因所在蛮荒大陆王国突变,战争引领他走上争霸之路。
  • 山海神魔

    山海神魔

    自盘古开天,清者上升而成天,浊者下沉而成地。后儿生灵生,天地成,人皇禹以无上修为和恩德。治理这片天地,谓之禹共。无数年后,禹共分崩离析成九州,谓之禹共九州。一切便是发生在这里
  • 隆仲仁

    隆仲仁

    隆仲仁本是警校里一名普通的法医,在机缘巧合之下他获得了异于常人的力量。然而隆仲仁并不知道自己早已陷入了一场巨大的阴谋之中,当他面对一系列匪夷所思的事件,他又该如何去面对?接下来你将会和隆仲仁一起,去解开这笼中法则。
  • 误惹大神:债主休想逃

    误惹大神:债主休想逃

    她以为她一世孤苦,是命中注定。谁知是某大神强行掠夺……现在,他受到天谴,不还债不能活……冷笑:想还债?没门。某大神苦:你孤苦一世,我还你十世。十世不够,本尊再继续!
  • 和鬼王约会

    和鬼王约会

    深夜时分,黑云遮星月。校园很阴森,街道几无人,冷风瑟瑟中,蛰伏黑暗的一个个鬼影,幽然浮现了。少女凌月,孤苦无依,一边打工一边上学,虽然很辛苦,但她很开心,因为她的男友很爱自己。这一夜,男友约她半夜后操场见,说准备了一份精心大礼。她怀揣着激动期待的心情前往,迎接她的竟是……一不小心,凌月和鬼王约会了……
  • 心底桃花眉间痕

    心底桃花眉间痕

    有些今天来不及真正的开始,就被写成了故事。
  • 蜜恋甜心校草的百分百爱恋

    蜜恋甜心校草的百分百爱恋

    一场车祸剥夺了她的记忆,醒来时是一个中年男子将她重返正常生活。女扮男装,被揭穿,恶魔校草们的‘宠爱’,让她被迫去另一所皇室学校,真是天助她也,但是,他们怎么跟着来了?而且性格大变?不过这样才好玩!甜心到底花落谁手?谜团的谷底,真相又是什么?
  • 恋上复仇三公主

    恋上复仇三公主

    她,冰冷。她,任性。她,可爱。活泼的她们是高傲的公主,她们是高贵的女王……她们拥有着令人羡慕的容貌。为了报复隐瞒了身份进入了贵族学院,她们的眼中充满了嗜血与愤恨!当然,她们的复仇之路不会充满血腥的,还有酸酸甜甜的爱情。他,冷漠,霸道。他,高贵。他,花心。帅气的他们是天子骄子,他们是高高在上的王子……遇上了我们三位公主之后会怎么样呢?
  • 你是我的青梅,他是我的竹马

    你是我的青梅,他是我的竹马

    花初夏,夏东凯和江诀三个人爱与愁,明明是三个很要好的朋友,却只能在爱的边缘苦苦寻求属于自己的那个人,花初夏叫着哥哥心里却想把哥哥当作爱人,夏冬凯叫着初夏却想把初夏当作爱人,江诀看着两人爱的痛苦心里便想成全却在一场意外里与初夏结婚,初夏最终会和谁在一起?“亲爱哒!幸好是你,当初我没有选择错。”初夏一脸幸福的挽着身边男人的胳膊说到