博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Spark:读取hdfs的文本文件
阅读量:6715 次
发布时间:2019-06-25

本文共 229 字,大约阅读时间需要 1 分钟。

spark读取hdfs上面的文件:

var textIn = sc.textFile("hdfs://localhost:9000/user/root/text.in")

保存文件到hdsf上:

textIn.map((_, 2)).saveAsTextFile("hdfs://localhost:9000/user/root/outdir")

转载于:https://www.cnblogs.com/xuejianbest/p/10285026.html

你可能感兴趣的文章
百度地图API 应用实例
查看>>
起泡排序和快速排序
查看>>
抛砖引玉:使用二进制位操作,解决铁道部火车票的数据查询和存储问题,超轻量级的解决方案...
查看>>
深入理解JavaScript系列(结局篇)
查看>>
SPSS中八类常用非参数检验之一:总体分布的卡方(Chi-square)检验
查看>>
【经典网页设计】原来404错误页面可以这样设计
查看>>
IoC模式
查看>>
【java】eclipse配置tomcat碰到的问题
查看>>
vim 的多窗口, tab 切换_yuhui_bear_百度空间
查看>>
poj2481
查看>>
ECSHOP的lbi库文件中添加广告位的方法
查看>>
Splay树学习
查看>>
Kinect for Windows SDK开发学习相关资源
查看>>
Android 类中类广播的静态注册方法
查看>>
Requests库上传文件时UnicodeDecodeError: 'ascii' codec can't decode byte错误解析
查看>>
MapReduce中,new Text()引发的写入HDFS的输出文件多一列的问题
查看>>
Windows Phone本地数据库(SQLCE):8、DataContext(翻译)
查看>>
SGU 406 Goggle
查看>>
〖Linux〗Shell十进制数值转换十六进制
查看>>
java设计模式--行为型模式--状态模式
查看>>