达州做网站
大橙子网站建设，新征程启航
为企业提供网站建设、域名注册、服务器等服务
使用Hadoop提供的API操作HDFS
本篇文章主要是记录一下如何使用Hadoop提供的API，通过编程的方式来对HDFS进行增删查改等操作。Hadoop的版本不同，可能函数的参数会有所不同，本文所使用的是Hadoop 2.5.2。
创新互联专注于长清企业网站建设,响应式网站开发,购物商城网站建设。长清网站建设公司,为长清等地区提供建站服务。全流程定制网站，专业设计，全程项目跟踪，创新互联专业和态度为您提供的服务
整个代码包含下面几个方法
读取HDFS某个文件夹的所有文件，并打印其内容
重命名HDFS上的文件夹或者文件
从HDFS下载文件或者文件夹的所有内容到本地
从本地上传文件或者文件夹到HDFS
在HDFS上创建文件夹
在HDFS上删除文件夹
在HDFS上创建文件
在HDFS上删除文件
工程代码如下，每个方法上面都有相应的注释，每一个方法都是经过测试可运行的
package com.hadoop.hdfs;
import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.net.URI;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
/**
* @Package com.hadoop.hdfs
* @ClassName: OperateHDFS
* @Description: 通过Java API操作HDFS文件
* @author lxy
* @date 2015年3月25日 下午1:43:00
* @version V1.0
*/
public class OperateHDFS {
/**
* 加载配置文件
*/
static Configuration conf = new Configuration();
/**
* 读取HDFS某个文件夹的所有文件，并打印
*
* @param hdfsPath
* 读取HDFS哪个目录下的文件，HDFS目录
* @throws IOException
*/
public static void readHDFSAll(String hdfsPath) throws IOException {
InputStream in = null;
// 读取HDFS上的文件系统，获取到的是一个org.apache.hadoop.hdfs.DistributedFileSystem对象
FileSystem hdfs = FileSystem.get(URI.create(hdfsPath), conf);
// 使用缓冲流，进行按行读取的功能
BufferedReader buff = null;
// 获取要读取的文件的根目录
Path listFiles = new Path(hdfsPath);
// 获取要读取的文件的根目录的所有二级子文件目录
FileStatus stats[] = hdfs.listStatus(listFiles);
for (int i = 0; i < stats.length; i++) {
// 判断是不是目录，如果是目录，递归调用
if (stats[i].isDirectory()) {
readHDFSAll(stats[i].getPath().toString());
}
else {
System.out.println("文件路径名:" + stats[i].getPath().toString());
// 获取Path
Path p = new Path(stats[i].getPath().toString());
// 打开文件流
in = hdfs.open(p);
buff = new BufferedReader(new InputStreamReader(in));
String str = null;
while ((str = buff.readLine()) != null) {
System.out.println(str);
}
buff.close();
in.close();
}
}
}
/**
* 重命名HDFS上的文件夹或者文件
*
* @param srcPath
* 要修改的HDFS的文件或者文件夹，HDFS目录
* @param destPath
* 修改成什么文件或者文件夹，HDFS目录
* @throws IOException
*/
public static void renameFileOrDirectoryOnHDFS(String srcPath,
String destPath) throws IOException {
// 读取HDFS上的文件系统
FileSystem hdfs = FileSystem.get(URI.create(srcPath), conf);
Path src = new Path(srcPath);
Path dest = new Path(destPath);
hdfs.rename(src, dest);
// 释放资源
hdfs.close();
System.out.println("重命名成功");
}
/**
* 从HDFS下载文件或者文件夹的所有内容到本地
*
* @param downloadPath
* 下载哪个文件，或者哪个目录下的所有文件，HDFS目录
* @param localPath
* 下载文件到哪里，本地目录
* @throws IOException
*/
public static void downloadFileorDirectoryOnHDFS(String downloadPath,
String localPath) throws IOException {
// 读取HDFS上的文件系统
FileSystem hdfs = FileSystem.get(URI.create(downloadPath), conf);
// 要从哪里下载
Path download = new Path(downloadPath);
// 下载到本地的哪个目录
Path localDir = new Path(localPath);
// 从HDFS拷贝到本地目录下
hdfs.copyToLocalFile(download, localDir);
// 释放资源
hdfs.close();
System.out.println("下载成功");
}
/**
* 从本地上传文件或者文件夹到HDFS
*
* @param uploadPath
* 上传哪个目录下的文件或者文件夹，本地目录
* @param localPath
* 上传文件到哪里，HDFS目录
* @throws Exception
*/
public static void uploadFileorDirectoryToHDFS(String uploadPath,
String destPath) throws IOException {
// 读取HDFS上的文件系统
FileSystem hdfs = FileSystem.get(URI.create(destPath), conf);
// 本地文件或者目录
Path localDir = new Path(uploadPath);
// 要上传到哪里
Path dest = new Path(destPath);
// 从本地目录拷贝到HDFS目录下，没有目录，会自动创建目录
hdfs.copyFromLocalFile(localDir, dest);
// 释放资源
hdfs.close();
System.out.println("上传成功");
}
/**
* 在HDFS上创建文件夹
*
* @param pathName
* 文件夹的路径，HDFS目录
* @throws IOException
*/
public static void createDirectoryOnHDFS(String pathName)
throws IOException {
// 读取HDFS上的文件系统
FileSystem hdfs = FileSystem.get(URI.create(pathName), conf);
Path newPath = new Path(pathName);
// 在HDFS上创建文件夹
hdfs.mkdirs(newPath);
// 释放资源
hdfs.close();
System.out.println("创建文件夹成功");
}
/**
* 在HDFS上删除文件夹
*
* @param pathName
* 文件夹的路径，HDFS目录
* @throws IOException
*/
public static void deleteDirectoryOnHDFS(String deletePath)
throws IOException {
// 读取HDFS上的文件系统
FileSystem hdfs = FileSystem.get(URI.create(deletePath), conf);
Path deleteDir = new Path(deletePath);
// 在HDFS上删除文件夹
hdfs.deleteOnExit(deleteDir);
// 释放资源
hdfs.close();
System.out.println("删除文件夹成功");
}
/**
* 在HDFS上创建文件
*
* @param filePath
* 创建的文件的名称，HDFS目录
* @throws IOException
*/
public static void createFileOnHDFS(String filePath) throws IOException {
FileSystem hdfs = FileSystem.get(URI.create(filePath), conf);
Path newFile = new Path(filePath);
hdfs.createNewFile(newFile);
// 释放资源
hdfs.close();
System.out.println("创建文件成功");
}
/**
* 在HDFS上删除文件
*
* @param filePath
* 删除的文件的名称，HDFS目录
* @throws IOException
*/
public static void deleteFileOnHDFS(String filePath) throws IOException {
FileSystem hdfs = FileSystem.get(URI.create(filePath), conf);
Path deleteFile = new Path(filePath);
hdfs.deleteOnExit(deleteFile);
hdfs.close();
System.out.println("删除文件成功");
}
public static void main(String[] args) throws IOException {
// 读取一个目录下面的所有的文件包括子目录下的文件
readHDFSAll("hdfs://192.168.3.57:8020/user/lxy/input");
// 重命名HDFS上的文件
renameFileOrDirectoryOnHDFS(
"hdfs://192.168.3.57:8020/user/lxy/mergeresult/merge.txt",
"hdfs://192.168.3.57:8020/user/lxy/mergeresult/renamemerge.txt");
// 重命名HDFS上的文件夹
renameFileOrDirectoryOnHDFS(
"hdfs://192.168.3.57:8020/user/lxy/mergeresult",
"hdfs://192.168.3.57:8020/user/lxy/rename");
// 从HDFS下载文件或者文件夹
downloadFileorDirectoryOnHDFS(
"hdfs://192.168.3.57:8020/user/lxy/mergeresult",
"E:\\test\\download");
// 从本地上传文件到HDFS
uploadFileorDirectoryToHDFS("E:\\test\\upload\\lib",
"hdfs://192.168.3.57:8020/user/lxy");
// 在HDFS上创建文件夹createDir
createDirectoryOnHDFS("hdfs://192.168.3.57:8020/user/lxy/createDir");
// 在HDFS上删除文件夹createDir
deleteDirectoryOnHDFS("hdfs://192.168.3.57:8020/user/lxy/createDir");
// 在HDFS上创建文件newFile.txt
createFileOnHDFS("hdfs://192.168.3.57:8020/user/lxy/newFile.txt");
// 在HDFS上删除文件newFile.txt
deleteFileOnHDFS("hdfs://192.168.3.57:8020/user/lxy/newFile.txt");
}
}
文章标题：使用Hadoop提供的API操作HDFS
分享地址：http://dzwzjz.com/article/jghidj.html