hadoop—直接将http上传(put)的数据流传输到hdfs中

p1tboqfb  于 2021-06-03  发布在  Hadoop
关注(0)|答案(2)|浏览(447)

我有以下应用程序部署
web前端通过http/ftp从客户端获取数据
hadoop群集
我需要在hdfs上存储客户的数据。最好的办法是什么?是否可以直接将数据流传输到hdfs,而不消耗本地驱动器上客户端的所有数据,然后将其放入hdfs?

5us2dqdw

5us2dqdw1#

我现在能想到的可行方案是:
httpfs公司
webhdfs
hdfs上的ftp客户端
webdav上的hdfs
选择“最好的”一个完全取决于你,基于你的方便和方便。

e5nszbig

e5nszbig2#

就个人而言,如果您希望低延迟访问hdfs,最好的选择是hbase。您可以很容易地放置和获取值,因为它只是一个键值存储。我们在我们的应用程序中使用了同样的东西,它工作得非常好。

相关问题