大数据和Hadoop什么关系?为什么大数据要学习Hadoop?

2024-12-25 19:40:01
推荐回答(2个)
回答1:

大数据是一系列技术的统称,经过多年的发展,大数据已经形成了从数据采集、整理、传输、存储、安全、分析、呈现和应用等一系列环节。
Hadoop是一个由Apache基金会所开发的分布式系统基础架构,是用Java语言开发的一个开源分布式计算平台,适合大数据的分布式存储和计算平台。

Hadoop是目前被广泛使用的大数据平台,本身就是大数据平台研发人员的工作成果,Hadoop是目前比较常见的大数据支撑性平台。
由于Hadoop是一个开源的大数据系统平台,所以你们听得最多。除了Hadoop平台外,还有其他系统平台。

回答2:

Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求,可以以流的形式访问(streaming access)文件系统中的数据。Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,而MapReduce则为海量的数据提供了计算.
一般来说数据的存储都是用Hadoop集群的,但是如果你是做数据分析的其实不一定学习Hadoop,数据分析的主要用hive写sql代码,或者是spark。这些都是在hadoop之上的。hadopp偏底层。对做大数据开发的人来说hadoop是基础了。