spark关于hdfs上配置文件的高可用访问配置_spark.config("fs.defaultfs", "hdfs://ns2")-CSDN博客

网站介绍:文章浏览阅读1.3k次。背景:java项目中存在excel这样的资源文件,处理方法是将excel通过hadoop fs -copyFromLocal方式上传到hdfs文件系统上。hdfs有两个namenode,所以访问路径需要设置成高可用的路径处理代码:声明spark环境 val sparkConf = new SparkConf() .setAppName("FieldRelativeApplication") .set("spark.serializer", "org.apa_spark.config("fs.defaultfs", "hdfs://ns2")