Hadoop综合大作业

一、用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。

1、启动hadoop

2、hdfs上创建文件夹并查看

3、上传英文词频统计文本至hdfs

4、启动hive

5、创建novel原始文档表

6、导入文件内容到表novel并查看

7、用HQL进行词频统计,结果放在表k_word_count里

8、查看统计结果

二、用Hive对产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。

1、产生CSV文件一览图

2、删除文件的第一条数据并查看

3、上传文件到hdfs

4、启动hive

5、导入文件内容到表到docs中并查看

6、总结

由于我爬的是学校的新闻,是一个新闻类网站,可以用来分析的数据并不多,所以只爬取了新闻标题、时间等信息。

通过这个大作业,我对如何进行大数据分析有一定的了解,对使用hadoop,hive等也有一定的了解。

原文地址:https://www.cnblogs.com/LauSir139/p/9087965.html