golang通过http端口访问hadoop

dclink · · 7699 次点击 · · 开始浏览    
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

无聊尝试一下golang连接hdfs, 写了个hello world

golang包地址

https://github.com/vladimirvivien/gowfs

安装

go get github.com/vladimirvivien/gowfs

写程序之前需要修改hadoop的两个配置文件

分别是

  •   hsdfs-site.xml 里的 dfs.webhdfs.enabled 

<property>  
    <name>dfs.webhdfs.enabled</name>  
    <value>true</value>  
</property>
  •  core-site.xml  里的 hadoop.http.staticuser.user 

<property>  
    <name>hadoop.http.staticuser.user</name>  
    <value>hadoop</value>  
</property>

简单的例子

package main

import (
	"fmt"
	"log"
	"github.com/vladimirvivien/gowfs"
)

func main() {
	fs, err := gowfs.NewFileSystem(gowfs.Configuration{Addr: "localhost:50070", User: "hadoop"})
	if err != nil{
	    log.Fatal(err)
	}
	checksum, err := fs.GetFileChecksum(gowfs.Path{Name: "/user/kafka/hello.txt"})
	if err != nil {
	    log.Fatal(err)
	}
	fmt.Println (checksum)

	createTestDir(fs, "/user/kafka/hello1.txt")	
}

func createTestDir(fs *gowfs.FileSystem, hdfsPath string) {
	path := gowfs.Path{Name:hdfsPath}
	ok, err := fs.MkDirs(path, 0744)
	if err != nil || !ok {
		log.Fatal("Unable to create test directory ", hdfsPath, ":", err)
	}
	log.Println ("HDFS Path ", path.Name, " created.")
}

本文来自:开源中国博客

感谢作者:dclink

查看原文:golang通过http端口访问hadoop

入群交流(和以上内容无关):Go中文网 QQ 交流群:798786647 或加微信入微信群:274768166 备注:入群;关注公众号:Go语言中文网

7699 次点击  ∙  1 赞  
加入收藏 微博
3 回复  |  直到 2017-08-10 17:51:05
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传