登陆注册
13514600000043

第43章 物流决策支持系统(3)

5)数据集市(datamarts)

为了特定的应用目的或应用范围而从数据仓库中独立出来的一部分数据,也可称为部门数据或主题数据(subjectarea)。在数据仓库的实施过程中往往可以从一个部门的数据集市着手,以后再用几个数据集市组成一个完整的数据仓库。需要注意的就是在实施不同的数据集市时,同一含义的字段定义一定要相容,这样再以后实施数据仓库时才不会造成大麻烦。

数据仓库管理包括:安全和特权管理,跟踪数据的更新,数据质量检查,管理和更新元数据,审计和报告数据仓库的使用和状态,删除数据,复制、分割和分发数据,备份和恢复,存储管理。

信息发布系统,即把数据仓库中的数据或其他相关的数据发送给不同的地点或用户。基于Web的信息发布系统是对付多用户访问的最有效方法。

2.联机分析处理

(1)联机分析处理的概念

联机分析处理(On‐Line Analytical Processing,OLAP)的概念最早是由关系数据库之父爱德华·库德(E.F.Codd)博士于1993年提出的,是一种用于组织大型商务数据库和支持商务智能的技术。OLAP数据库分为一个或多个多维数据集,每个多维数据集都由多维数据集管理员组织和设计以适应用户检索和分析数据的方式,从而更易于创建和使用所需的数据透视表和数据透视图。

库德同时提出了关于OLAP的12条准则。OLAP的提出引起了很大的反响,OLAP作为一类产品同联机事务处理(OLTP)明显区分开来。库德提出OLAP的12条准则来描述OLAP系统:

准则1 OLAP模型必须提供多维概念视图;

准则2 透明性准则;

准则3 存取能力推测;

准则4 稳定的报表能力;

准则5 客户/服务器体系结构;

准则6 维的等同性准则;

准则7 动态的稀疏矩阵处理准则;

准则8 多用户支持能力准则;

准则9 非受限的跨维操作;

准则10 直观的数据操纵;

准则11 灵活的报表生成;

准则12 不受限的维与聚集层次。

当今的数据处理大致可以分成两大类:联机事务处理OLTP和联机分析处理OLAP。OLTP是传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,例如银行交易。OLAP是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。

(2)联机分析处理逻辑概念和典型操作

OLAP展现在用户面前的是一幅幅多维视图。

①维(dimension),是人们观察数据的特定角度,是考虑问题时的一类属性,属性集合构成一个维(时间维、地理维等)。

②维的层次(level),是人们观察数据的某个特定角度(即某个维),还可以存在细节程度不同的各个描述方面(时间维:日期、月份、季度、年)。

③维的成员(member),即维的一个取值,是数据项在某维中位置的描述。(“某年某月某日”是在时间维上位置的描述)。

④度量(measure),即多维数组的取值。(2000年1月,上海,笔记本电脑,$100000)。

OLAP的基本多维分析操作有钻取(drill‐up和drill‐down)、切片(slice)和切块(dice)以及旋转(pivot)等。

①钻取,是改变维的层次,变换分析的粒度。它包括向下钻取(drill‐down)和向上钻取(drill‐up)/上卷(roll‐up)。drill‐up是在某一维上将低层次的细节数据概括到高层次的汇总数据,或者减少维数;而drill‐down则相反,它从汇总数据深入细节数据进行观察或增加新维。

②切片和切块,是在一部分维上选定值后,关心度量数据在剩余维上的分布。如果剩余的维只有两个,则是切片;如果有三个或以上,则是切块。

③旋转,是变换维的方向,即在表格中重新安排维的放置(例如行列互换)。

(3)联机分析处理系统的体系结构和分类

数据仓库与OLAP的关系是互补的,现代OLAP系统一般以数据仓库作为基础,即从数据仓库中抽取详细数据的一个子集并经过必要的聚集存储到OLAP存储器中供前端分析工具读取。OLAP系统按照其存储器的数据存储格式可以分为关系OLAP(Relational OLAP,ROLAP)、多维OLAP(Multidimensional OLAP,MOLAP)和混合型OLAP(Hybrid OLAP,HOLAP)三种类型。

1)关系联机分析处理(ROLAP)

ROLAP将分析用的多维数据存储在关系数据库中,并根据应用的需要有选择地定义一批视图,作为表也存储在关系数据库中。不必要将每一个SQL查询都作为实视图保存,只定义那些应用频率比较高、计算工作量比较大的查询作为实视图。对每个针对OLAP服务器的查询,优先利用已经计算好的实视图来生成查询结果以提高查询效率。

同时用作ROLAP存储器的RDBMS也针对OLAP作相应的优化,比如并行存储、并行查询、并行数据管理、基于成本的查询优化、位图索引、SQL的OLAP扩展(cube,rollup)等等。

2)多维联机分析处理(MOLAP)

MOLAP将OLAP分析所用到的多维数据物理上存储为多维数组的形式,形成“立方体”的结构。维的属性值被映射成多维数组的下标值或下标的范围,而总结数据作为多维数组的值存储在数组的单元中。由于MOLAP采用了新的存储结构,从物理层实现起,因此又称为物理OLAP(Physical OLAP);而ROLAP主要通过一些软件工具或中间软件实现,物理层仍采用关系数据库的存储结构,因此称为虚拟OLAP(Virtual OLAP)。

3)混合联机分析处理(HOLAP)

由于MOLAP和ROLAP有着各自的优点和缺点,且它们的结构迥然不同,这给分析人员设计OLAP结构提出了难题。为此,一个新的OLAP结构——混合型OLAP(HOLAP)被提出,它能把MOLAP和ROLAP两种结构的优点结合起来。迄今为止,对HOLAP还没有一个正式的定义。但很明显,HOLAP结构不应该是MOLAP与ROLAP结构的简单组合,而是这两种结构技术优点的有机结合,能满足用户各种复杂的分析请求。

3.数据挖掘

(1)数据挖掘的定义

数据挖掘(DataMining,DM)又称数据库中的知识发现(Knowledge Discoverin Database,KDD),是目前人工智能和数据库领域研究的热点问题,所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平凡过程。数据挖掘是一种决策支持过程,它主要基于人工智能、机器学习、模式识别、统计学、数据库、可视化技术等,高度自动化地分析企业的数据,作出归纳性的推理,从中挖掘出潜在的模式,帮助决策者调整市场策略,减少风险,作出正确的决策。

1)技术上的定义

数据挖掘(datamining)就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中,提取隐含在其中的、人们事先不知道的但又是潜在有用的信息和知识的过程。

与数据挖掘相近的同义词有数据融合、数据分析和决策支持等。这个定义包括好几层含义:数据源必须是真实的、大量的、含噪声的;发现的是用户感兴趣的知识;发现的知识要可接受、可理解、可运用;并不要求发现放之四海而皆准的知识,仅支持特定的发现问题。

何为知识?从广义上理解,数据、信息也是知识的表现形式,但是人们更把概念、规则、模式、规律和约束等看作知识。人们把数据看做是形成知识的源泉,好像从矿石中采矿或淘金一样。原始数据可以是结构化的,如关系数据库中的数据;也可以是半结构化的,如文本、图形和图像数据;甚至是分布在网络上的异构型数据。发现知识的方法可以是数学的,也可以是非数学的;可以是演绎的,也可以是归纳的。发现的知识可以被用于信息管理、查询优化、决策支持和过程控制等,还可以用于数据自身的维护。因此,数据挖掘是一门交叉学科,它把人们对数据的应用从低层次的简单查询,提升到从数据中挖掘知识,提供决策支持。在这种需求牵引下,汇聚了不同领域的研究者,尤其是数据库技术、人工智能技术、数理统计、可视化技术、并行计算等方面的学者和工程技术人员,投身到数据挖掘这一新兴的研究领域,形成新的技术热点。

这里所说的知识发现,不是要求发现放之四海而皆准的真理,也不是要去发现崭新的自然科学定理和纯数学公式,更不是什么机器定理证明。实际上,所有发现的知识都是相对的,是有特定前提和约束条件的,面向特定领域的,同时还要能够易于被用户理解。最好能用自然语言表达所发现的结果。

2)商业角度的定义

数据挖掘是一种新的商业信息处理技术,其主要特点是对商业数据库中的大量业务数据进行抽取、转换、分析和其他模型化处理,从中提取辅助商业决策的关键性数据。

简而言之,数据挖掘其实是一类深层次的数据分析方法。数据分析本身已经有很多年的历史,只不过在过去数据收集和分析的目的是用于科学研究,另外,由于当时计算能力的限制,对大数据量进行分析的复杂数据分析方法受到很大限制。现在,由于各行业业务自动化的实现,商业领域产生了大量的业务数据,这些数据不再是为了分析的目的而收集的,而是由于纯机会的(opportunistic)商业运作而产生。分析这些数据也不再是单纯为了研究的需要,更主要是为商业决策提供真正有价值的信息,进而获得利润。但所有企业面临的一个共同问题是:企业数据量非常大,而其中真正有价值的信息却很少,因此从大量的数据中经过深层分析,获得有利于商业运作、提高竞争力的信息,就像从矿石中淘金一样,数据挖掘也因此而得名。

因此,数据挖掘可以描述为:按企业既定业务目标,对大量的企业数据进行探索和分析,揭示隐藏的、未知的或验证已知的规律性,并进一步将其模型化的先进有效的方法。

(2)数据挖掘常用的方法

利用数据挖掘进行数据分析常用的方法主要有分类、回归分析、聚类、关联规则、特征、变化和偏差分析、Web页挖掘等,它们分别从不同的角度对数据进行挖掘。

1)分类

分类是找出数据库中一组数据对象的共同特点并按照分类模式将其划分为不同的类,其目的是通过分类模型,将数据库中的数据项映射到某个给定的类别。它可以应用到客户的分类、客户的属性和特征分析、客户满意度分析、客户的购买趋势预测等,如一个汽车零售商将客户按照对汽车的喜好划分成不同的类,这样营销人员就可以将新型汽车的广告手册直接邮寄到有这种喜好的客户手中,从而大大增加了商业机会。

2)回归分析

回归分析方法反映的是事务数据库中属性值在时间上的特征,产生一个将数据项映射到一个实值预测变量的函数,发现变量或属性间的依赖关系,其主要研究问题包括数据序列的趋势特征、数据序列的预测以及数据间的相关关系等。它可以应用到市场营销的各个方面,如客户寻求、保持和预防客户流失活动、产品生命周期分析、销售趋势预测及有针对性的促销活动等。

3)聚类分析

聚类分析是把一组数据按照相似性和差异性分为几个类别,其目的是使得属于同一类别的数据间的相似性尽可能大,不同类别中的数据间的相似性尽可能小。它可以应用到客户群体的分类、客户背景分析、客户购买趋势预测、市场的细分等。

4)关联规则

关联规则是描述数据库中数据项之间所存在的关系的规则,即根据一个事务中某些项的出现可导出另一些项在同一事务中也出现,即隐藏在数据间的关联或相互关系。在客户关系管理中,通过对企业的客户数据库里的大量数据进行挖掘,可以从大量的记录中发现有趣的关联关系,找出影响市场营销效果的关键因素,为产品定位、定价与定制客户群,客户寻求、细分与保持,市场营销与推销,营销风险评估和诈骗预测等决策支持提供参考依据。

5)特征分析

特征分析是从数据库中的一组数据中提取出关于这些数据的特征式,这些特征式表达了该数据集的总体特征。如营销人员通过对客户流失因素的特征提取,可以得到导致客户流失的一系列原因和主要特征,利用这些特征可以有效地预防客户的流失。

6)变化和偏差分析

偏差包括很大一类潜在有趣的知识,如分类中的反常实例、模式的例外、观察结果对期望的偏差等,其目的是寻找观察结果与参照量之间有意义的差别。在企业危机管理及其预警中,管理者更感兴趣的是那些意外规则。意外规则的挖掘可以应用到各种异常信息的发现、分析、识别、评价和预警等方面。

同类推荐
  • 小投资大回报

    小投资大回报

    本书以一个规模不大的商场为场景,以12个自我创业者为主角,向人们讲述了现实社会中人们创业的艰辛、创业的痛苦、创业的成功、创业的快乐。书中的创业者每人独立成篇,他们各自的情况不尽相同,但是却具有广泛的代表性……
  • 最牛买房客

    最牛买房客

    在房产投资上,温州炒房团是一个最具代表性的群体。近年来,他们以其高超的投资手法,为自己带来丰厚的投资回报之余,也吸引了媒体和众人的眼球。临渊羡鱼,不如退而结网。尤其是在CPI不断攀升,钱变得越来越不值钱的现在,作为普通投资者的我们,要继续跟着温州人,在投资房产这条“钱”途大好的道路上,阔步前进。本书由温州资本最大的知情人,商会会长周德文先生现身说法,以温州购房团为背景,结合经典案例深入浅出的解答了房地产投资中的制胜法宝。【本书出版方只授权部分章节供您免费阅读,请购买正版实体书阅读全部内容】
  • 问道财务:28个降低成本的高招

    问道财务:28个降低成本的高招

    本书将把企业的成本比作人的身体,健康和苗条是人们追求的目标,企业的“健康”和“瘦身”就在于其合理高效的“成本控制”上,书稿从日常开支、供应链、资产管理、财务等方面介绍了诸如建立成本控制的有效机制、降低成本、不加工资提效率、避免差错、合理评价业绩等28个降低成本的高招。
  • 最受欢迎的哈佛营销课

    最受欢迎的哈佛营销课

    本书从市场营销规律、营销策略、营销方法、营销宣传等方面,着重指出现代营销中存在的关键性问题,并提供了实用性和操作性较强的解决方案。其中列举了肯德基、戴尔公司、4S汽车销售店、沃尔玛、农夫山泉、奇瑞集团、王老吉凉茶等全球知名企业翘楚的营销方式方法,通过品牌成功案例的研究,告诉你这些世界品牌背后的经营秘诀。站在巨人的肩膀上学营销,改变旧有的传统经营思维,引进先进的创新营销思路,将差异化营销、特色营销、情感营销、文化营销、定制营销;逆向品牌战略、跨行业品牌战略、敌对品牌战略、反营销战略、促销战略等一网打尽。掌握了这些方法,你也可以和世界营销大师一路同行,创造销量奇迹,成就一流的营销高手。
  • 管理鸡汤:最妙趣横生的管理学智慧

    管理鸡汤:最妙趣横生的管理学智慧

    管理是人类与生俱来的行为,随着社会的发展,它早已作为一门正式的学科而成立,其应用的广泛性和重要性贯穿于各行各业之中。通过阅读管理故事,增强管理知识,提高管理艺术,已是一条便捷实用的有效方法。因为精彩的管理故事,都蕴含着深意,深透着启发,折射着光明,阅读它们,不仅能带给我们知识和快乐,还能增长管理的智慧,更好地指导人生。围绕上述理念,我们汇集了许多古今中外的管理故事,编成《管理鸡汤》一书,力求将各个领域中,先贤的智慧、前辈的经验和我们的思考共同组成缤纷的世界,以便于在管理法则中豁然开朗地获得更富有价值的管理启示。
热门推荐
  • 仙法武缘

    仙法武缘

    万界最后一位仙灵后裔,转生下界低武世界,当仙法结合武学会产生怎样的一段故事呢。爱恨情仇不可或缺,兄弟情义尽皆有尔,就让我们随主角一起踏苍穹,碎星辰
  • 君临天下不识妻:绝版皇后

    君临天下不识妻:绝版皇后

    她是正宫娘娘,三年来过着与世隔绝的生活。没有人见过她的真面目,包括她的夫君——景泰国最高执权者轩辕毅,可一场邂逅,却打破了原本平静地生活......他爱上了她,她也爱上了他。然而,命运总是多变的。为了他,她甘愿放弃一切。为了她,他独守后宫灵位。事隔多年,是老天的怜悯亦或命运的捉弄。。。看着这个几乎与自己长得一模一样的可爱小人,他动摇了。“皇上叔叔,看着你,我就好像在照镜子呢?”是她吗?她还活着吗?那。。。。
  • QQ封神录

    QQ封神录

    一个神秘老头的一不小心,造就了一个落魄少年的意外崛起。少年突然发现自己的QQ空间的说说竟然都是封神榜里面的人物发表的。我.........是疯了么............
  • 驻藏军人心理健康教育

    驻藏军人心理健康教育

    开展心理健康教育,既是提高军人军政素质、维系身心健康的保证和动力,也是军队战斗力的基本要素。随着“生物-心理-社会”医学模式的认定,加强并规范部队心理健康教育,对预防和减少部队心理疾病的发生,保障和提高部队战斗力,有着十分重要的意义。特别是长年进驻海拔3000米以上西藏高原的官兵,高寒缺氧、环境艰苦、守备任务繁重,对官兵心理有着特殊影响,迫切需要对高原官兵心理健康状况及教育疏导进行科学研究,制定适合这一特定区域部队的心理健康教育方案。
  • 奈何,誓言

    奈何,誓言

    人死后,便会走上黄泉。故而在黄泉路上有着无数的魂灵匆匆来去。黄泉的尽头,有一条满是血污的腥臭的河蜿蜒流过。
  • 诸天大法官

    诸天大法官

    诸天万界分化、异族恒沙无数人族,居祖庭、掌至尊、号诸天无数元会后,人族大能纷纷归隐失踪万界异族携手大军杀至祖庭吾——司掌三十三天法典定纲常、论刑法。诸,以下犯上,扰乱制法判,灰飞烟灭,即刻行刑!
  • 致新世界:风起

    致新世界:风起

    海城大学,名叫光辉青春的团体。在社团成立的一月纪念日上,发生的事情,只是六人的小团体,最终将带来整个世界的巨变!
  • 网游之附身BOSS

    网游之附身BOSS

    别人重生都是屌丝逆袭高富帅,推BOSS、战王城、天下我有。而叶晨呢?意外重生却变成了《新世界》中的数据生命,不过他发现自己能够附身到BOSS的身上,并且控制它们。于是《新世界》中多了许多的意外。且随主角云岚一起去经历各个副本,看他如何和那些想要推倒他的勇者们一起“快乐”地“游戏”?某大神玩家:“有本大神在,带你们刷个副本还不是小意思。”叶晨:“哥有‘点名’神级,瞬间秒你没得商量,至于剩下的一波带走!”某精英团队:“我们刷过副本千千万,推倒过不计其数的BOSS。”叶晨:“我团灭过无数团队,所有的都是瞬间爆炸!”其实这本书就是看主角如何操控BOSS来蹂躏副本,让我们一起回忆那些年开荒时的各种趣事。
  • 倾城月光

    倾城月光

    一帆摇影落夕阳,万树落红含冰晨。谁借兰亭书一醉,他还古道怨千杯。夕阳下,一块叫倾城榜的巨石屹立在月庄城的中央,上面印刻着这个世界上最强者排名,为上榜,人世间一直在为名为利的争夺,这场权力的游戏,到底谁才是最终的赢家?我是一座屹立不倒的古城,是世界的近天点,用我倾城的月色,用我得天独道的双眼,来记录人间的爱恨情仇。
  • 轮回若虚

    轮回若虚

    “末日不是一段文明的毁灭,在每个人心中其实都有属于自己的希望与末日。当属于他内心的天地崩塌的时候,他的末日就到了。是谁能够给予他希望,谁就能拯救他于末日之中。也许他自己也可以给自己希望。为什么很多人都想要穿越呢,因为在现实不如意的人们希望重新的再来一次过一种不一样的人生。也许是大富大贵,也许情场得意,也许家庭和睦。其实都是对于美好生活的另类的追求。人生不如意者十之八九,但是他们可以在自己幻想穿越的世界里面重新再来,许下一切美好的愿望。也许这算是另一种到达彼岸的方式吧。即使是那么的虚幻与幼稚,也是人们曾今希望的理想乡。”(作者心里话)