• 首页
        • 更多产品

          客户为中心的产品管理工具

          专业的软件研发项目管理工具

          简单易用的团队知识库管理

          可量化的研发效能度量工具

          测试用例维护与计划执行

          以团队为中心的协作沟通

          研发工作流自动化工具

          账号认证与安全管理工具

          Why PingCode
          为什么选择 PingCode ?

          6000+企业信赖之选,为研发团队降本增效

        • 行业解决方案
          先进制造(即将上线)
        • 解决方案1
        • 解决方案2
  • Jira替代方案
目录

HDFS可以存哪些数据

HDFS是一种能够在普通硬件上运行的分布式文件系统,它是高度容错的,适应于具有大数据集的应用程序,它非常适于存储大型数据 (比如TB和PB)。它具有高可靠性、数据自动保存多个副本、能够处理百万规模以上的文件数量等优点。

一、HDFS介绍和使用

HDFS(Hadoop Distributed File System ),意为:Hadoop分布式文件系统。它是Apache Hadoop核心组件之一,作为大数据生态圈最底层的分布式存储服务而存在。也可以说大数据首先要解决的问题就是海量数据的存储问题。

HDFS主要是解决大数据如何存储问题的。分布式意味着是HDFS是横跨在多台计算机上的存储系统。

HDFS是一种能够在普通硬件上运行的分布式文件系统,它是高度容错的,适应于具有大数据集的应用程序,它非常适于存储大型数据 (比如 TB 和 PB)。

HDFS使用多台计算机存储文件, 并且提供统一的访问接口, 像是访问一个普通文件系统一样使用分布式文件系统。

二、HDFS优缺点

1、优点

高可靠性;

数据自动保存多个副本(默认3个,可以通多dfs.replication参数设置),通过增加副本来提高容错性;

某个副本丢失可以自动恢复;

适合处理大批量数据;

数据规模:能够处理GB,TB,甚至PB级别规模的数据;

文件规模:能够处理百万规模以上的文件数量;

可以在廉价的机器上运行良好。

2、缺点

不适合低延迟数据访问,比如秒级、毫秒级;

对大量小文件不友好;

存储大量小文件会占用NameNode大量的内存来存储文件目录及块信息等元数据,而NameNode的内存是有限的;

小文件存储的寻址时间会超过读取时间,寻址时间较好在传输时间的1%;

不支持并发写入、文件随机修改;

一个文件只能由一个线程写,不允许多个线程同时写;

仅支持文件内容追加(append),不支持随机修改。

以上就是关于HDFS的知识希望对大家有帮助。

相关文章