大橙子网站建设,新征程启航
为企业提供网站建设、域名注册、服务器等服务
IDEA中怎么利用Maven创建一个Scala项目,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。
创新互联建站网站建设服务商,为中小企业提供成都网站制作、做网站、外贸营销网站建设服务,网站设计,网站改版维护等一站式综合服务型公司,专业打造企业形象网站,让您在众多竞争对手中脱颖而出创新互联建站。
创建一个 Scala 的 WordCount 程序
第一步:IntelliJ IDEA下安装 Scala 插件
安装完 Scala 插件完成
第二步:Maven 下 Scala 下的项目创建
正常创建 Maven 项目(不会的看另一篇 Maven 配置)
第三步:Scala 版本的下载及配置
通过Spark官网下载页面http://spark.apache.org/downloads.html 可知“Note: Starting version 2.0, Spark is built with Scala 2.11 by default.”,建议下载Spark2.2对应的 Scala 2.11。
登录Scala官网http://www.scala-lang.org/,单击download按钮,然后再“Other Releases”标题下找到“下载2.11.0
根据自己的系统下载相应的版本 接下来就是配置Scala 的环境变量(跟 jdk 的配置方法一样)
输入 Scala -version 查看是否配置成功 会显示 Scala code runner version 2.11.0 – Copyright 2002-2013, LAMP/EPFL
选择自己安装 Scala 的路径
第四步:编写 Scala 程序
将其他的代码删除,不然在编辑的时候会报错
配置 pom.xml文件
在里面添加一个 Spark
具体的 pom.xml 内容
编写 WordCount 文件
package cn.sparkimport org.apache.spark.{SparkConf, SparkContext}/** * Created by hubo on 2018/1/13 */object WordCount { def main(args: Array[String]) { var masterUrl = "local" var inputPath = "/Users/huwenbo/Desktop/a.txt" var outputPath = "/Users/huwenbo/Desktop/out" if (args.length == 1) { masterUrl = args(0) } else if (args.length == 3) { masterUrl = args(0) inputPath = args(1) outputPath = args(2) } println(s"masterUrl:$masterUrl, inputPath: $inputPath, outputPath: $outputPath") val sparkConf = new SparkConf().setMaster(masterUrl).setAppName("WordCount") val sc = new SparkContext(sparkConf) val rowRdd = sc.textFile(inputPath) val resultRdd = rowRdd.flatMap(line => line.split("\\s+")) .map(word => (word, 1)).reduceByKey(_ + _) resultRdd.saveAsTextFile(outputPath) }}
var masterUrl = “local”
local代表自己本地运行,在 hadoop 上运行添加相应地址
看完上述内容,你们掌握IDEA中怎么利用Maven创建一个Scala项目的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注创新互联行业资讯频道,感谢各位的阅读!