慕课网日志处理SparkSQL版
需求一:统计慕课网最受欢迎的TopN课程;
需求二:按省市统计慕课网最受欢迎的TopN课程;
需求三:按流量统计慕课网最受欢迎的TopN课程。
数据处理流程:
1)数据采集
Flume: web日志写入到HDFS
2)数据清洗
脏数据
Spark、Hive、MapReduce 或者是其他的一些分布式计算框架
清洗完之后的数据可以存放在HDFS(Hive/Spark SQL)
3)数据处理
按照我们的需要进行相应业务的统计和分析
Spark、Hive、MapReduce 或者是其他的一些分布式计算框架
4)处理结果入库
结果可以存放到RDBMS、NoSQL
5)数据的可视化
通过图形化展示的方式展现出来:饼图、柱状图、地图、折线图
ECharts、HUE、Zeppelin
本项目主要做了2-4步骤。