Win10 IDEA连接虚拟机中的Hadoop集群（进来保你成）_idea连接虚拟机上hadoop集群

39458819)][外链图片转存中…(img-rMY7tJuu-1712539458819)][外链图片转存中…(img-oZIY0nf2-1712539458820)]

2401_84170337

1089人浏览 · 2024-04-08 09:24:28

2401_84170337 · 2024-04-08 09:24:28 发布

点击Datanodes出现上面的界面表示配置好了Hadoop集群。

2.安装好了IDEA开发工具

实现:

在window上配置好Hadoop

1.下载hadoop-2.7.7.tar.gz文件到window。各版本Hadoop，我选择的是2.7.7

Hadoop是跨平台的，不用担心Linux与windows不兼容，但是需要注意的是在hadoop-2.7.7/etc/hadoop/hadoop-env.sh中JAVA_HOME需要修改为window下jdk的路径。

选择一个空目录将hadoop-2.7.7.tar.gz解压

将hadoop-2.7.7添加到环境变量中

变量名：HADOOP_HOME

变量值：E:\xx\xx\xx\hadoop-2.7.7 （先看下面的图再复制）

%JAVA_HOME%\bin

%JAVA_HOME%\jre\bin（先看下面的图再复制）

4.使用命令行查看环境变量是否配置成功

hadoop version

5.安装jdk（JDK 8 所有版本）

解压到目录中，添加环境变量（和Hadoop配置相似，可以上去再看一下）

变量名：JAVA_HOME

变量值：E:\ProgramSoftware\java\JAVAHOME\jdk1.8.0_162

变量值：%JAVA_HOME%\bin

变量值：%JAVA_HOME%\jre\bin

使用java -version、javac验证（注意上面bin以及\jre\bin都要配置，不然会出现hadoop找不到JAVA_HOME的问题）

将winutil.exe放置到hadoop-2.7.7\bin\目录下面。(wintil.ext下载，GitHub中选一个比自己hadoop版本相同或者说高一点的版本)
将winutil.exe以及hadoop-2.7.7\bin\hadoop.dll放置到C:\Windows\System32中
使用idea打开一个空的目录

添加maven，点击Add Framwork Support

添加maven

添加成功后会出现main与test

10.配置maven，将Linux虚拟机中hadoop-2.7.7\etc\core-site.xml与hadoop-2.7.7\etc\hdfs-site.xml复制到resource下（可以通过log4j.properties配置控制台日志的输出等级，可以自己上网查询其他的输出等级策略）

log4j.rootLogger=debug,stdout,R
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%5p - %m%n
log4j.appender.R=org.apache.log4j.RollingFileAppender
log4j.appender.R.File=mapreduce_test.log
log4j.appender.R.MaxFileSize=1MB
log4j.appender.R.MaxBackupIndex=1
log4j.appender.R.layout=org.apache.log4j.PatternLayout
log4j.appender.R.layout.ConversionPattern=%p %t %c - %m%n
log4j.logger.com.codefutures=DEBUG

配置pom.xml

初始状态

添加下方的内容到pom.xml中，添加后idea会开始猛烈地加载需要的资源文件，下载完成后原先的红色pom.xml会变成蓝色（注意：hadoop的版本要和自己的版本一样）

测试

通过上面的操作，idea连接Hadoop集群基本实现了，现在测试

在java中创建一个java文件

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.log4j.BasicConfigurator;

import java.io.IOException;

public class HdfsTest {

public static void main(String[] args) {
//自动快速地使用缺省Log4j环境。
BasicConfigurator.configure();
try {

// 改成你自己的ip以及对应的文件所在的路径
String filename = “hdfs://192.168.47.131:9000/words.txt”;
Configuration conf = new Configuration();
FileSystem fs = null;
fs = FileSystem.get(conf);
if (fs.exists(new Path(filename))){

// 在控制台搜索the file is exist 或者not exist 根据你的情况，该文件如果存在就会打

// the file is exist 不存在就会打印 the file is not exist
System.out.println(“the file is exist”);
}else{
System.out.println(“the file is not exist”);
}
} catch (IOException e) {
e.printStackTrace();
}
}

}