升蓝数据挖掘技术简介

• 数据挖掘（Data Mining）就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。
• 数据挖掘的功能：
• 数据挖掘通过预测未来趋势及行为，做出基于知识的决策，数据挖掘也用于具备相关度功能的全文检索引擎。
• 数据挖掘的目标：
• 是从数据库中发现隐含的、有意义的知识。
• 信息摘要和全文检索：
• 通过数据向量化分析，可对文本信息进行度量，度量的结果通常用于搜索引擎，在信息度量基础上建立的搜索引擎，不是简单文字的搜索，而是经过优化的与主题相关度的搜索引擎。
• 数据采集：建立在数据挖掘技术上的数据采集，可根据“预计主题”在互联网上有目的地采集信息，如可采集相关行业的各种数据资料、创建潜在客户资料库等。
• 自动预测趋势和行为：
• 数据挖掘自动在大型数据库中寻找预测性信息，以往需要进行大量手工分析的问题如今可以迅速直接由数据本身得出结论。一个典型的例子是市场预测问题，数据挖掘使用过去有关促销的数据来寻找未来投资中回报最大的用户，其它可预测的问题包括预报破产以及认定对指定事件最可能作出反应的群体。
• 关联分析：
• 数据关联是数据库中存在的一类重要的可被发现的知识。若两个或多个变量的取值之间存在某种规律性，就称为关联。关联可分为简单关联、时序关联、因果关联。关联分析的目的是找出数据库中隐藏的关联网。有时并不知道数据库中数据的关联函数，即使知道也是不确定的，因此关联分析生成的规则带有可信度。
• 聚类：
• 数据库中的记录可被化分为一系列有意义的子集，即聚类。聚类增强了人们对客观现实的认识，是概念描述和偏差分析的先决条件。聚类技术主要包括传统的模式识别方法和数学分类学。在划分对象时不仅考虑对象之间的距离，还要求划分出的类具有某种内涵描述，从而避免了传统技术的某些片面性。
• 概念描述：
• 概念描述就是对某类对象的内涵进行描述，并概括这类对象的有关特征。概念描述分为特征性描述和区别性描述，前者描述某类对象的共同特征，后者描述不同类对象之间的区别。生成一个类的特征性描述只涉及该类对象中所有对象的共性。生成区别性描述的方法很多，如决策树方法、遗传算法等。
• 偏差检测：
• 数据库中的数据常有一些异常记录，从数据库中检测这些偏差很有意义。偏差包括很多潜在的知识，如分类中的反常实例、不满足规则的特例、观测结果与模型预测值的偏差、量值随时间的变化等。偏差检测的基本方法是，寻找观测结果与参照值之间有意义的差别。