为了提高大数据环境下的数据挖掘速度,对分布式计算构架Hadoop进行分析与研究,提出一种基于Hadoop平台的大数据关联规则挖掘算法MRPrePost。该算法在PrePost算法基础上改进而来,采用Hadoop平台降低分布式编程的难度且易于管理,通过一种自底向上的深度优化策略改进PrePost算法,降低内存开销,同时采用负载均衡的分组策略,来提高并行算法的性能,最终试验表明,该算法运行速度快,适应大数据关联规则挖掘。
1
 针对课程设置与课程成绩之间的联系,通过比较分析可以发现学生成绩背后所隐藏的有价值信息。设计开发了一个简单的数据挖掘系统。该系统包括获取数据、数据预处理、关联规则挖掘和规则结果分析四个模块。通过对学生成绩数据的挖掘,可以发现隐藏其中的关联规则,得出有实际价值的规则及结论,从而为教学管理人员优化课程设置提供决策支持。
1
针对现在机器学习的文本分类算法普遍使用的knn,支持向量机,神经网络等算法进行分类中存在的两个问题,没有考虑到语义关联对其文本的影响和受文章长短对其词频向量大小的影响,通过结合apiori算法进行改进knn算法的方法对文本分类样本进行了分类实验,结果表明,该改进算法相对于为改进前平均查准率有10%左右的提升,平均召回率有5%左右的提升,得出该方法能有效提高文本分类准确率的结论。
2021-01-29 11:13:42 901KB 文本分类;knn;关联规则;apiori
1