网建会是什么意思_wap网站制作哪家好_广州seo网站推广平台_站内推广方式

需求：

1、做某个文件的词频统计//某个单词在这个文件出现次数

步骤：

1. 文件单词规律（空格分开）
2. 单词切分
3. 单词的统计（k,v）->(k:单词，V：数量）
4. 打印

框架：

1. 单例对象，main()
2. 创建CONF
3. 创建SC-->读取文件的方式--》RDD
4. RDD进行处理
5. 闭资源关

一、新建object类取名为WordCount

2、编写如下代码

import org.apache.spark.{SparkConf, SparkContext}object WordCount {def main(args: Array[String]): Unit = {System.setProperty("hadoop.home.dir","D:\\hadoop\\hadoop-2.8.0")val sparkConf= new SparkConf().setAppName("WordCount").setMaster("local") //设置为本地模式val sc = new SparkContext(sparkConf)sc.setLogLevel("WARN")val resultArray = sc.textFile(path = "file:///d:/temp/a.txt").flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_).collect()resultArray.foreach(println )sc.stop()}}

3、本地运行，查看运行结果如下：

解决无法下载spark与打包插件的办法

maven打包插件与spark所需依赖下载地址：

链接：百度网盘 请输入提取码

提取码：jnta

解决步骤：

到网盘下载maven打包插件与spark依赖，网盘吗中的内容如下：

1. 将下载的插件plugins.rar解压，并复制插件文件夹到你本地maven仓库下
2. 将下载的spark依赖spark.rar解压，并复制spark文件夹到你本地maven仓库下
3. 重启idea，重新build下工程

将下载的插件plugins.rar解压，并复制插件文件夹到你本地maven仓库下

将下载的spark依赖spark.rar解压，并复制spark文件夹到你本地maven仓库下

重启idea，重新build下工程