HDFS文件上传与下载
2023-09-27 14:25:39 时间
实验环境
Linux Ubuntu 16.04
前提条件:
1)Java 运行环境部署完成
2)Hadoop 的单点部署完成
上述前提条件,我们已经为你准备就绪了。
实验内容
在上述前提条件下,学习HDFS文件上传与下载的相关操作命令
实验步骤
1.点击桌面的"命令行终端",打开新的命令行窗口
2.启动HDFS
启动HDFS,在命令行窗口输入下面的命令:
/apps/hadoop/sbin/start-dfs.sh
运行后显示如下,根据日志显示,分别启动了NameNode、DataNode、Secondary NameNode:
dolphin@tools:~$ /apps/hadoop/sbin/start-dfs.sh
Starting namenodes on [localhost]
localhost: Warning: Permanently added 'localhost' (ECDSA) to the list of known hosts.
Starting datanodes
Starting secondary namenodes [tools.hadoop.fs.init]
tools.hadoop.fs.init: Warning: Permanently added 'tools.hadoop.fs.init,172.22.0.2' (ECDSA) to the list of known hosts.
3.查看HDFS相关进程
在命令行窗口输入下面的命令:
jps
运行后显示如下,表明NameNode、DataNode、Secondary NameNode已经成功启动
dolphin@tools:~$ jps
484 DataNode
663 SecondaryNameNode
375 NameNode
861 Jps
4.准备要上传的文件
在命令行窗口输入下面的命令:
ls Desktop/logs/
运行后显示如下,在/home/dolphin/Desktop/logs目录下有一个log文件
dolphin@tools:~$ ls Desktop/logs/
access.1556972279.log
5.查看文件内容
在命令行窗口输入下面的命令:
cat Desktop/logs/access.1556972279.log
运行后显示如下:
dolphin@tools:~$ cat Desktop/logs/access.1556972279.log
2400,22,vm-914,7,5,49.2,8.9,0.8,10.0,4.9,0.4,4.7,0.3,4.6,4.3,4.8,2.1,0.3,6.9,2019-09-20 23:50:00
7361,22,vm-914,17,0,58.3,1.4,9.4,1.4,10.6,1.7,5.0,9.4,8.2,10.2,5.4,0.2,8.7,3.8,2019-09-20 23:51:00
7363,22,vm-914,9,1,49.7,10.5,6.3,9.5,0.1,10.4,2.8,8.5,4.7,0.2,7.5,5.4,10.7,6.6,2019-09-20 23:52:00
7361,22,vm-914,1,2,41.0,5.4,8.5,8.2,3.2,3.5,0.8,2.5,9.0,4.5,9.6,6.6,2.9,7.2,2019-09-20 23:53:00
7361,22,vm-914,21,4,55.2,3.8,9.9,4.0,6.4,5.6,8.2,6.9,6.5,1.9,5.6,6.3,3.2,2.6,2019-09-20 23:54:00
7361,22,vm-914,4,0,57.5,7.6,1.9,2.3,10.7,9.6,1.2,6.7,10.4,5.9,7.2,2.8,10.7,4.7,2019-09-20 23:55:00
7363,22,vm-914,6,3,41.4,5.4,7.7,3.0,0.5,0.5,4.3,1.5,9.8,3.8,5.9,8.1,6.4,0.1,2019-09-20 23:56:00
7361,22,vm-914,20,0,55.9,6.8,6.7,4.6,10.0,10.3,9.2,0.6,3.3,0.9,9.5,4.1,7.8,7.4,2019-09-20 23:57:00
7361,22,vm-914,9,4,54.4,6.6,4.5,7.4,8.9,4.7,2.2,5.3,7.2,2.7,5.8,3.4,7.8,10.6,2019-09-20 23:58:00
7363,22,vm-914,10,2,44.3,3.6,3.7,0.6,9.6,4.7,4.6,7.0,5.9,6.4,5.0,7.4,7.7,3.7,2019-09-20 23:59:00
6.创建HDFS目录
在命令行窗口输入下面的命令:
hadoop fs -mkdir /log1 /log2
运行后显示如下,此时在HDFS的根目录下创建了log1和log2两个文件夹
dolphin@tools:~$ hadoop fs -mkdir /log1 /log2
7.put命令上传文件
在命令行窗口输入下面的命令:
hadoop fs -put Desktop/logs/* /log1
运行后显示如下,此时Desktop/logs/目录下的log文件已经上传到HDFS的/log1目录中
dolphin@tools:~$ hadoop fs -put Desktop/logs/* /log1
8.copyFromLocal命令上传文件
在命令行窗口输入下面的命令:
hadoop fs -copyFromLocal Desktop/logs/* /log2
运行后显示如下,此时Desktop/logs/目录下的log文件已经上传到HDFS的/log2目录中
dolphin@tools:~$ hadoop fs -copyFromLocal Desktop/logs/* /log2
9.查看是否上传成功
在命令行窗口输入下面的命令:
hadoop fs -ls /log1
运行后显示如下,发现HDFS的/log1目录下存在刚才上传的文件
dolphin@tools:~$ hadoop fs -ls /log1
Found 1 items
-rw-r--r-- 1 dolphin supergroup 140624 2019-11-17 09:15 /log1/access.1556972279.log
在命令行窗口输入下面的命令:
hadoop fs -ls /log2
运行后显示如下,发现HDFS的/log2目录下存在刚才上传的文件
dolphin@tools:~$ hadoop fs -ls /log2
Found 1 items
-rw-r--r-- 1 dolphin supergroup 140624 2019-11-17 09:19 /log2/access.1556972279.log
10.HDFS文件下载
在命令行窗口输入下面的命令:
hadoop fs -get /log1/* ./
此时,已经将HDFS的/log1/目录下的文件,下载到本地家目录下。
再运行下面的命令:
ls
运行后显示如下:
dolphin@tools:~$ ls
access.1556972279.log Desktop
如上,HDFS文件已经成功下载到本地。至此,本实验结束啦。开始下一个实验吧。
相关文章
- 分布式文件存储系统FastDFS[2]-上传和下载文件工具类
- Linux远程连接工具:SecureCRT【编辑】、SecureFX Portable【上传文件、下载文件;不需要再配置Linux端的ftpd】
- Android用Retrofit 2实现多文件上传实战
- 文件上传和WAF的攻与防
- HDFS 文件的上传与下载
- SSH上传/下载本地文件到linux服务器
- 174.Django中文件上传和下载
- C#FTP操作类含下载上传删除获取目录文件及子目录列表等等
- 【Java】JavaWeb文件上传和下载
- web项目的文件上传和 下载
- 通过HttpURLConnection 上传和下载文件(二)
- Spring MVC 实现文件的上传和下载
- SpringBoot 2.0实现基于Restful风格的文件上传与下载
- springboot多文件上传、删除、下载到项目本地
- SpringMVC入门到实战------十、文件上传和下载
- Python实现向s3共享存储上传和下载文件
- HotPDF Delphi PDF1.7,上传和编辑所有类型的PDF文件
- Unity 遍历目录内所有文件并拷贝到指定目录
- springMVC3学习(十一)--文件上传CommonsMultipartFile
- FastAPI 学习之路(十七)上传文件
- 某行业攻防培训-----文件上传漏洞
- springboot之如何快速实现多文件上传?若不会,我便手把手教你【详细】
- js——通过隐藏input file上传文件
- Linux下使用Shell脚本实现FTP自动上传和下载文件
- 文件上传之iis编辑器漏洞