通过hadoop访问s3nurl并指向riakcs

xt0899hw  于 2021-06-04  发布在  Hadoop
关注(0)|答案(1)|浏览(299)

我在hadoop中使用s3和s3nurl为amazonemr编写了代码。
eg清管器:

X = LOAD("s3n://testbucket/testfile.txt") using PigStorage();

我想继续使用这些代码,转而使用riak cs而不是amazons3。
i、 e我希望s3url指向我的riakcs集群,在那里我将设置bucket和文件。
hadoop配置中是否有通过代理或特定主机名路由s3nurl的选项。

vfwfrxfs

vfwfrxfs1#

setup jets3t.properties请参阅riak cs端点。本地设置示例如下:http://qiita.com/kuenishi/items/71b3cda9bbd1a0bc4f9e#2-3

> cat conf/jets3t.properties
s3service.https-only=false

# s3service.s3-endpoint=localhost

# s3service.s3-endpoint-http-port=8080

# s3service.s3-endpoint-https-port=8080

# s3service.disable-dns-buckets=true

httpclient.proxy-autodetect=false
httpclient.proxy-host=localhost
httpclient.proxy-port=8080
httpclient.retry-max=11

相关问题