大橙子网站建设,新征程启航

为企业提供网站建设、域名注册、服务器等服务

Hadoop之HDFS的FileSystem接口详解

基本的文件系统命令操作, 通过hadoop fs-help可以获取所有的命令的详细帮助文件。

创新互联公司专注于晋中企业网站建设,自适应网站建设,商城建设。晋中网站建设公司,为晋中等地区提供建站服务。全流程定制制作,专业设计,全程项目跟踪,创新互联公司专业和态度为您提供的服务

Java抽象类org.apache.hadoop.fs.FileSystem定义了hadoop的一个文件系统接口。Hadoop中关于文件操作类基本上全部是在"org.apache.hadoop.fs"包中,这些API能够支持的操作包含:打开文件,读写文件,删除文件等。

Hadoop类库中最终面向用户提供的接口类是FileSystem,该类是个抽象类,只能通过来类的get方法得到具体类。

 

构造方法

该类是一个抽象类,通过以下两种静态工厂方法可以过去FileSystem实例:

public staticFileSystem.get(Configuration conf) throws IOException

public staticFileSystem.get(URI uri, Configuration conf) throws IOException

 

具体方法实现

1、publicboolean mkdirs(Path f) throws IOException

一次性新建所有目录(包括父目录), f是完整的目录路径。

 

2、publicFSOutputStream create(Path f) throws IOException

创建指定path对象的一个文件,返回一个用于写入数据的输出流

create()有多个重载版本,允许我们指定是否强制覆盖已有的文件、文件备份数量、写入文件缓冲区大小、文件块大小以及文件权限。

 

3、publicboolean copyFromLocal(Path src, Path dst) throws IOException

将本地文件拷贝到文件系统

 

4、publicboolean exists(Path f) throws IOException

检查文件或目录是否存在

 

5、publicboolean delete(Path f, Boolean recursive)

永久性删除指定的文件或目录,如果f是一个空目录或者文件,那么recursive的值就会被忽略。只有recursive=true时,一个非空目录及其内容才会被删除。

 

6、FileStatus类封装了文件系统中文件和目录的元数据,包括文件长度、块大小、备份、修改时间、所有者以及权限信息。

通过"FileStatus.getPath()"可查看指定HDFS中某个目录下所有文件。

packagehdfsTest;
 
importjava.io.IOException;
 
importorg.apache.hadoop.conf.Configuration;
importorg.apache.hadoop.fs.FSDataOutputStream;
importorg.apache.hadoop.fs.FileStatus;
importorg.apache.hadoop.fs.FileSystem;
importorg.apache.hadoop.fs.Path;
 
public classOperatingFiles {
         //initialization
         static Configuration conf = newConfiguration();
         static FileSystem hdfs;
         static {
                   String path ="/usr/java/hadoop-1.0.3/conf/";
                   conf.addResource(newPath(path + "core-site.xml"));
                   conf.addResource(newPath(path + "hdfs-site.xml"));
                   conf.addResource(newPath(path + "mapred-site.xml"));
                   path ="/usr/java/hbase-0.90.3/conf/";
                   conf.addResource(newPath(path + "hbase-site.xml"));
                   try {
                            hdfs =FileSystem.get(conf);
                   } catch (IOException e) {
                            e.printStackTrace();
                   }
         }
          //create a direction
         public void createDir(String dir)throws IOException {
                   Path path = new Path(dir);
                   hdfs.mkdirs(path);
                   System.out.println("newdir \t" + conf.get("fs.default.name") + dir);
         }       
        
         //copy from local file to HDFS file
         public void copyFile(String localSrc,String hdfsDst) throws IOException{
                   Path src = newPath(localSrc);                  
                   Path dst = new Path(hdfsDst);
                   hdfs.copyFromLocalFile(src,dst);
                  
                   //list all the files in thecurrent direction
                   FileStatus files[] =hdfs.listStatus(dst);
                   System.out.println("Uploadto \t" + conf.get("fs.default.name") + hdfsDst);
                   for (FileStatus file : files){
                            System.out.println(file.getPath());
                   }
         }
         //create a new file
         public void createFile(String fileName,String fileContent) throws IOException {
                   Path dst = newPath(fileName);
                   byte[] bytes =fileContent.getBytes();
                   FSDataOutputStream output =hdfs.create(dst);
                   output.write(bytes);
                   System.out.println("newfile \t" + conf.get("fs.default.name") + fileName);
         }
        
         //list all files
         public void listFiles(String dirName)throws IOException {
                   Path f = new Path(dirName);
                   FileStatus[] status =hdfs.listStatus(f);
                   System.out.println(dirName +" has all files:");
                   for (int i = 0; i

 

上传本地文件

通过"FileSystem.copyFromLocalFile(Path src,Patch dst)"可将本地文件上传到HDFS的制定位置上,其中src和dst均为文件的完整路径。具体事例如下:

packagecom.hebut.file;
 
importorg.apache.hadoop.conf.Configuration;
importorg.apache.hadoop.fs.FileStatus;
importorg.apache.hadoop.fs.FileSystem;
importorg.apache.hadoop.fs.Path;
 
public classCopyFile {
    public static void main(String[] args)throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
      
        //本地文件
        Path src =newPath("D:\\HebutWinOS");
        //HDFS为止
        Path dst =new Path("/");
      
        hdfs.copyFromLocalFile(src, dst);
        System.out.println("Uploadto"+conf.get("fs.default.name"));
      
        FileStatusfiles[]=hdfs.listStatus(dst);
        for(FileStatus file:files){
            System.out.println(file.getPath());
        }
    }
}

运行结果可以通过控制台、项目浏览器和Linux查看,如图所示。

1、控制台结果

Hadoop之HDFS的FileSystem接口详解

2、项目浏览器

Hadoop之HDFS的FileSystem接口详解

3、linux结果详情

Hadoop之HDFS的FileSystem接口详解

    创建HDFS文件

        通过"FileSystem.create(Path f)"可在HDFS上创建文件,其中f为文件的完整路径。具体实现如下:

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class CreateFile {
 
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        byte[] buff="hello hadoop world!\n".getBytes();
       
        Path dfs=new Path("/test");
       
        FSDataOutputStream outputStream=hdfs.create(dfs);
        outputStream.write(buff,0,buff.length);
       
    }
}

        运行结果如图所示。

        1)项目浏览器

        Hadoop之HDFS的FileSystem接口详解

        2)Linux结果

   Hadoop之HDFS的FileSystem接口详解

    创建HDFS目录

        通过"FileSystem.mkdirs(Path f)"可在HDFS上创建文件夹,其中f为文件夹的完整路径。具体实现如下:

    

package com.hebut.dir;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class CreateDir {
 
    public static void main(String[] args) throws Exception{
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        Path dfs=new Path("/TestDir");
       
        hdfs.mkdirs(dfs);
 
    }
}

        运行结果如图所示。

        1)项目浏览器

        Hadoop之HDFS的FileSystem接口详解

        2)Linux结果

 Hadoop之HDFS的FileSystem接口详解

    重命名HDFS文件

        通过"FileSystem.rename(Path src,Path dst)"可为指定的HDFS文件重命名,其中src和dst均为文件的完整路径。具体实现如下:

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class Rename{
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
     
        Path frpaht=new Path("/test");    //旧的文件名
        Path topath=new Path("/test1");    //新的文件名
       
        boolean isRename=hdfs.rename(frpaht, topath);
       
        String result=isRename?"成功":"失败";
        System.out.println("文件重命名结果为:"+result);
       
    }
}

        运行结果如图所示。

        1)项目浏览器

        Hadoop之HDFS的FileSystem接口详解

    2)Linux结果     Hadoop之HDFS的FileSystem接口详解

    删除HDFS上的文件

        通过"FileSystem.delete(Path f,Boolean recursive)"可删除指定的HDFS文件,其中f为需要删除文件的完整路径,recuresive用来确定是否进行递归删除。具体实现如下:

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class DeleteFile {
 
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        Path delef=new Path("/test1");
       
        boolean isDeleted=hdfs.delete(delef,false);
        //递归删除
        //boolean isDeleted=hdfs.delete(delef,true);
        System.out.println("Delete?"+isDeleted);
    }
}

 

        运行结果如图所示。

        1)控制台结果

        Hadoop之HDFS的FileSystem接口详解

    2)项目浏览器

        Hadoop之HDFS的FileSystem接口详解

    删除HDFS上的目录

        同删除文件代码一样,只是换成删除目录路径即可,如果目录下有文件,要进行递归删除。

    查看某个HDFS文件是否存在

        通过"FileSystem.exists(Path f)"可查看指定HDFS文件是否存在,其中f为文件的完整路径。具体实现如下:

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class CheckFile {
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
        Path findf=new Path("/test1");
        boolean isExists=hdfs.exists(findf);
        System.out.println("Exist?"+isExists);
    }
}

 

        运行结果如图所示。

        1)控制台结果

        Hadoop之HDFS的FileSystem接口详解

        2)项目浏览器

        Hadoop之HDFS的FileSystem接口详解

    查看HDFS文件的最后修改时间

        通过"FileSystem.getModificationTime()"可查看指定HDFS文件的修改时间。具体实现如下:

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class GetLTime {
 
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        Path fpath =new Path("/user/hadoop/test/file1.txt");
       
        FileStatus fileStatus=hdfs.getFileStatus(fpath);
        long modiTime=fileStatus.getModificationTime();
       
        System.out.println("file1.txt的修改时间是"+modiTime);
    }
}

    

   运行结果如图所示。

        Hadoop之HDFS的FileSystem接口详解

    读取HDFS某个目录下的所有文件

        通过"FileStatus.getPath()"可查看指定HDFS中某个目录下所有文件。具体实现如下:

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class ListAllFile {
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
       
        Path listf =new Path("/user/hadoop/test");
       
        FileStatus stats[]=hdfs.listStatus(listf);
        for(int i = 0; i < stats.length; ++i)
                 {
                         System.out.println(stats[i].getPath().toString());
                 }
        hdfs.close();
    }
}

 

        运行结果如图所示。

        1)控制台结果

        Hadoop之HDFS的FileSystem接口详解

 

        2)项目浏览器

        Hadoop之HDFS的FileSystem接口详解

    查找某个文件在HDFS集群的位置

        通过"FileSystem.getFileBlockLocation(FileStatus file,long start,long len)"可查找指定文件在HDFS集群上的位置,其中file为文件的完整路径,start和len来标识查找文件的路径。具体实现如下:

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.BlockLocation;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
 
public class FileLoc {
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem hdfs=FileSystem.get(conf);
        Path fpath=new Path("/user/hadoop/cygwin");
       
        FileStatus filestatus = hdfs.getFileStatus(fpath);
        BlockLocation[] blkLocations = hdfs.getFileBlockLocations(filestatus, 0, filestatus.getLen());
 
        int blockLen = blkLocations.length;
        for(int i=0;i
            String[] hosts = blkLocations[i].getHosts();
            System.out.println("block_"+i+"_location:"+hosts[0]);
        }
    }
}

 

        运行结果如图所示。

        1)控制台结果

        Hadoop之HDFS的FileSystem接口详解

        2)项目浏览器

        Hadoop之HDFS的FileSystem接口详解

    获取HDFS集群上所有节点名称信息

        通过"DatanodeInfo.getHostName()"可获取HDFS集群上的所有节点名称。具体实现如下:

package com.hebut.file;
 
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.hdfs.DistributedFileSystem;
import org.apache.hadoop.hdfs.protocol.DatanodeInfo;
 
public class GetList {
 
    public static void main(String[] args) throws Exception {
        Configuration conf=new Configuration();
        FileSystem fs=FileSystem.get(conf);
       
        DistributedFileSystem hdfs = (DistributedFileSystem)fs;
        DatanodeInfo[] dataNodeStats = hdfs.getDataNodeStats();
       
        for(int i=0;ilength;i++){
            System.out.println("DataNode_"+i+"_Name:"+dataNodeStats[i].getHostName());
        }
    }
}

 

        运行结果如图所示。

       Hadoop之HDFS的FileSystem接口详解

 

 

 


文章名称:Hadoop之HDFS的FileSystem接口详解
文章URL:http://dzwzjz.com/article/pccies.html
在线咨询
服务热线
服务热线:028-86922220
TOP