数据挖掘技术及其应用

数据挖掘技术及其应⽤
⼀、数据挖掘技术的基本概念
三星sghe258
随着计算机技术的发展,各⾏各业都开始采⽤计算机及相应的信息技术进⾏管理和运营,这使得企业⽣成、收集、存贮和处理数据的能⼒⼤⼤提⾼,数据量与⽇俱增。企业数据实际上是企业的经验积累,当其积累到⼀定程度时,必然会反映出规律性的东西;对企业来,堆积如⼭的数据⽆异于⼀个巨⼤的宝库。在这样的背景下,⼈们迫切需要新⼀代的计算技术和⼯具来开采数据库中蕴藏的宝藏,使其成为有⽤的知识,指导企业的技术决策和经营决策,使企业在竞争中⽴于不败之地。另⼀⽅⾯,近⼗余年来,计算机和信息技术也有了长⾜的进展,产⽣了许多新概念和新技术,如更⾼性能的计算机和操作系统、因特⽹(intemet)、数据仓库(datawarehouse)、神经⽹络等等。在市场需求和技术基础这两个因素都具备的环境下,数据挖掘技术或称KDD(KnowledgeDiscovery in Databases;数据库知识发现)的概念和技术就应运⽽⽣了。
数据挖掘(Data Mining)旨在从⼤量的、不完全的、有噪声的、模糊的、随机的数据中, 提取隐含在其中的、⼈们事先不知道的、但⼜是潜在有⽤的信息和知识。还有很多和这⼀术语相近似的术语,如从数据库中发现知识(KDD)、数据分析、数据融合(Data Fusion)以及决策⽀持等。
⼆、数据挖掘的基本任务
数据挖掘的任务主要是关联分析、聚类分析、分类、预测、时序模式和偏差分析等。
1. 关联分析(association analysis)
关联规则挖掘由Rakesh Apwal等⼈⾸先提出。两个或两个以上变量的取值之间存在的规律性称为关联。数据关联是数据库中存在的⼀类重要的、可被发现的知识。关联分为简单关联、时序关联和因果关联。关联分析的⽬的是出数据库中隐藏的关联⽹。⼀般⽤⽀持度和可信度两个阀值来度量关联规则的相关性,还不断引⼊兴趣度、相关性等参数,使得所挖掘的规则更符合需求。
2. 聚类分析(clustering)
聚类是把数据按照相似性归纳成若⼲类别,同⼀类中的数据彼此相似,不同类中的数据相异。聚类分析可以建⽴宏观的概念,发现数据的分布模式,以及可能的数据属性之间的相互关系。
3. 分类(classification)
分类就是出⼀个类别的概念描述,它代表了这类数据的整体信息,即该类的内涵描述,并⽤这种描述来构造模型,⼀般⽤规则或决策树模式表⽰。分类是利⽤训练数据集通过⼀定的算法⽽求得分类规则。分类可被⽤于规则描述和预测。
4. 预测(predication)
预测是利⽤历史数据出变化规律,建⽴模型,并由此模型对未来数据的种类及特征进⾏预测。预测关⼼的是精度和不确定性,通常⽤预测⽅差来度量。
5. 时序模式(time-series pattern)
时序模式是指通过时间序列搜索出的重复发⽣概率较⾼的模式。与回归⼀样,它也是⽤⼰知的数据预测未来的值,但这些数据的区别是变量所处时间的不同。
51gan6. 偏差分析(deviation)
在偏差中包括很多有⽤的知识,数据库中的数据存在很多异常情况,发现数据库中数据存在的异常情况是⾮常重要的。偏差检验的基本⽅法就是寻观察结果与参照之间的差别。
三数据挖掘常的基本技术
1. 统计学
统计学虽然是⼀门“古⽼的”学科,但它依然是最基本的数据挖掘技术,特别是多元统计分析,如判别分析、主成分分析、因⼦分析、相关分析、多元回归分析等。
2. 聚类分析和模式识别
聚类分析主要是根据事物的特征对其进⾏聚类或分类,即所谓物以类聚,以期从中发现规律和典型模式。这类技术是数据挖掘的最重要的技术之⼀。除传统的基于多元统计分析的聚类⽅法外,近些年来模糊聚类和神经⽹络聚类⽅法也有了长⾜的发展。
3. 决策树分类技术
决策树分类是根据不同的重要特征,以树型结构表⽰分类或决策集合,从⽽产⽣规则和发现规律。
4. ⼈⼯神经⽹络和遗传基因算法
⼈⼯神经⽹络是⼀个迅速发展的前沿研究领域,对计算机科学⼈⼯智能、认知科学以及信息技术等产⽣了重要⽽深远的影响,⽽它在数据挖掘中也扮演着⾮常重要的⾓⾊。⼈⼯神经⽹络可通过⽰例学习,形成描述复杂⾮线性系统的⾮线性函数,这实际上是得到了客观规律的定量描述,有了这个基础,预测的难题就会迎刃⽽解。⽬前在数据挖掘中,最常使⽤的两种神经⽹络是BP⽹络和RBF⽹络不过,由于⼈⼯神经⽹络还是⼀个新兴学科,⼀些重要的理论问题尚未解决。
《肉蒲团之极乐宝鉴》
5. 规则归纳
规则归纳相对来讲是数据挖掘特有的技术。它指的是在⼤型数据库或数据仓库中搜索和挖掘以往不知道的规则和规律,这⼤致包括以下⼏种形式:IF … THEN …
6. 可视化技术
可视化技术是数据挖掘不可忽视的辅助技术。数据挖掘通常会涉及较复杂的数学⽅法和信息技术,为了⽅便⽤户理解和使⽤这类技术,必须借助图形、图象、动画等⼿段形象地指导操作、引导挖掘和表达结果等,否则很难推⼴普及数据挖掘技术。
四数据挖掘技术实施的步骤雷击风险评估
数据挖掘的过程可以分为6个步骤:
1) 理解业务:从商业的⾓度理解项⽬⽬标和需求,将其转换成⼀种数据挖掘的问题定义,设计出达到⽬标的⼀个初步计划。
2) 理解数据:收集初步的数据,进⾏各种熟悉数据的活动。包括数据描述,数据探索和数据质量验证等。
吴敬平吉林省常务副省长
3) 准备数据:将最初的原始数据构造成最终适合建模⼯具处理的数据集。包括表、记录和属性的选择,数据转换和数据清理等。
4) 建模:选择和应⽤各种建模技术,并对其参数进⾏优化。
凤阳县卫生局5) 模型评估:对模型进⾏较为彻底的评价,并检查构建模型的每个步骤,确认其是否真正实现了预定的商业⽬的。
6) 模型部署:创建完模型并不意味着项⽬的结束,即使模型的⽬的是为了增进对数据的了解,所获得的知识也要⽤⼀种⽤户可以使⽤的⽅式来组织和表
⽰。通常要将活动模型应⽤到决策制订的过程中去。该阶段可以简单到只⽣成⼀份报告,也可以复杂到在企业内实施⼀个可重复的数据挖掘过程。控制得到普遍承认。
五数据挖掘的应⽤现状
数据挖掘是⼀个新兴的边缘学科,它汇集了来⾃机器学习、模式识别、数据库、统计学、⼈⼯智能以及管理信息系统等各学科的成果。多学科的相互交融和相互促进,使得这⼀新学科得以蓬勃发展,⽽且已初具规模。在美国国家科学基⾦会(NSF)的数据库研究项⽬中,KDD被列为90年代最有价值的研究项⽬。⼈⼯智能研究领域的科学家也普遍认为,下⼀个⼈⼯智能应⽤的重要课题之⼀,将是以机器学习算法为主要⼯具的⼤规模的数据库知识发现。尽管数据挖掘还是⼀个很新的研究课题,但它所固有的为企业创造巨⼤经济效益的潜⼒,已使其很快有了许多成功的应⽤,具有代表性的应⽤领域有市场预测、投资、制造业、银⾏、通讯等。
美国钢铁公司和神户钢铁公司利⽤基于数据挖掘技术的ISPA系统,研究分析产品性能规律和进⾏质量控制,取得了显著效果。通⽤电器公司(GE)与法国飞机发动机制造公司(sNEcMA),利⽤数据挖掘技术研制了CASSIOP.EE质量控制系统,被三家欧洲航空公司⽤于诊断和预测渡⾳737的故障,带来了可观的经济效益。该系统于1996年获欧洲⼀等创造性应⽤奖。
享有盛誉的市场研究公司,如美国的A.C.⼀Nielson和Information Resources,欧洲的GFK和ln.fratest Burk等纷纷开始使⽤数据挖掘⼯具来应付迅速增长的销售和市场信息数据。商家的激烈竞争导致了市场快速饱和,产品的迅速更新,使得经营者对市场信息的需求格外强烈利⽤数据挖掘技术所形成的市场预测能⼒和服务,使这些市场研究公司取得了巨⼤收益。
英国⼴播公司(BBC)也应⽤数据挖掘技术来预测电视收视率,以便合理安排电视节⽬时刻表。信⽤卡公司Alllelicall KxT,ress⾃采⽤数据挖掘技术后,信⽤卡使⽤率增加了10%⼀15%。AT&T公司赁借数据挖掘技术技术侦探国际电话欺诈⾏为,可以尽快发现国际电话使⽤中的不正常现象。

本文发布于:2024-09-24 01:18:00,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/68580.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:数据   技术   数据挖掘   关联   数据库   发现
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议