HDFS是一种能够在普通硬件上运行的分布式文件系统,它是高度容错的,适应于具有大数据集的应用程序,它非常适于存储大型数据 (比如TB和PB)。它具有高可靠性、数据自动保存多个副本、能够处理百万规模以上的文件数量等优点。
一、HDFS介绍和使用
HDFS(Hadoop Distributed File System ),意为:Hadoop分布式文件系统。它是Apache Hadoop核心组件之一,作为大数据生态圈最底层的分布式存储服务而存在。也可以说大数据首先要解决的问题就是海量数据的存储问题。
HDFS主要是解决大数据如何存储问题的。分布式意味着是HDFS是横跨在多台计算机上的存储系统。
HDFS是一种能够在普通硬件上运行的分布式文件系统,它是高度容错的,适应于具有大数据集的应用程序,它非常适于存储大型数据 (比如 TB 和 PB)。
HDFS使用多台计算机存储文件, 并且提供统一的访问接口, 像是访问一个普通文件系统一样使用分布式文件系统。
二、HDFS优缺点
1、优点
高可靠性;
数据自动保存多个副本(默认3个,可以通多dfs.replication参数设置),通过增加副本来提高容错性;
某个副本丢失可以自动恢复;
适合处理大批量数据;
数据规模:能够处理GB,TB,甚至PB级别规模的数据;
文件规模:能够处理百万规模以上的文件数量;
可以在廉价的机器上运行良好。
2、缺点
不适合低延迟数据访问,比如秒级、毫秒级;
对大量小文件不友好;
存储大量小文件会占用NameNode大量的内存来存储文件目录及块信息等元数据,而NameNode的内存是有限的;
小文件存储的寻址时间会超过读取时间,寻址时间较好在传输时间的1%;
不支持并发写入、文件随机修改;
一个文件只能由一个线程写,不允许多个线程同时写;
仅支持文件内容追加(append),不支持随机修改。
以上就是关于HDFS的知识希望对大家有帮助。