大数据应用开发第03套完整参考答案)
2024年广东省职业院校技能大赛(高职组)大数据应用开发第03套完整参考答案文章目录2024年广东省职业院校技能大赛(高职组)大数据应用开发第03套完整参考答案任务 A:大数据平台搭建A.1 Hadoop 完全分布式集群A.2 Spark on YARNA.3 Hudi 源码构建与 Spark 集成任务 B:工业 Hudi 离线处理B.1 ODS 全量抽取B.2 DWD 清洗B.3 DolphinSchedulerB.4 工业指标任务 C:工业数据挖掘C.1 XML 特征工程C.2 随机森林报警预测任务 D:工业实时计算D.1 Flume 三日志采集与 HDFS 备份D.2 Flink 指标任务 E:数据可视化任务 F:综合分析F.1 ZooKeeper 选举与角色F.2 MapReduce ShuffleF.3 工厂优化建议完整答案和附件文件下载链接:任务 A:大数据平台搭建A.1 Hadoop 完全分布式集群宿主机执行:dockerexec-itmaster /bin/bash /usr/bin/dockercp/opt/jdk-8u212-linux-x64.tar.gz master:/opt/software/ /usr/bin/dockercp/opt/hadoop-3.1.3.tar.gz master:/opt/software/三台容器分别设置主机名;以下 IP 必须替换成容器实际 IP:/usr/bin/hostnamectl set-hostname master /usr/bin/hostnamectl set-hostname slave1 /usr/bin/hostnamectl set-hostname slave2 /usr/bin/tee /etc/hosts