我是hadoop新手,我知道hdfs是64mb(min)每个块,可以根据系统的不同而增加。但由于hdfs安装在每个块4kb的linux文件系统之上,hadoop不会遭受磁盘搜索吗?hdfs还与linux文件系统交互吗?
ttvkxqim1#
你的想法在一定程度上是正确的,但要放眼全局。当这个64MB存储在linux文件系统上时,它会分布在许多节点上。因此,如果要读取存储在3个不同linux文件系统(机器)上的3个块(每个4KB),则查找将仅用于1个查找,而不是3个查找,因为读取是并行的。我认为这可能会有所帮助:hdfs文件是如何存储在底层os文件系统上的?
1条答案
按热度按时间ttvkxqim1#
你的想法在一定程度上是正确的,但要放眼全局。当这个64MB存储在linux文件系统上时,它会分布在许多节点上。因此,如果要读取存储在3个不同linux文件系统(机器)上的3个块(每个4KB),则查找将仅用于1个查找,而不是3个查找,因为读取是并行的。
我认为这可能会有所帮助:hdfs文件是如何存储在底层os文件系统上的?