您现在的位置是:热点 >>正文
企业是如何解决HDFS单点问题的?
热点28613人已围观
简介...
前言
在早期Hadoop刚出来的时候是没有解决HDFS单点问题的,这就意味着当NameNode的服务器宕机了就会导致整个集群瘫痪,这是非常危险的于是在Hadoop不断的更新下提出了Hadoop HA来解决Na企业meNode单点问题,接下来我们就来聊一聊。
解决HDFS单点问题解决方案 解决HDFS点单问题其实可以部署两个NameNode,但是真正对外服务只有一个,部署两个NameNode那他们之间的元数据信息是不是需要共享元是如数据信息呀,不然当其中一个NameNode挂掉了元数据信息没有同步不就会有问题。
根据appche提出的解决方案目前有三种解决方案如下
方案一、目录共享
目录共享是在appche社区中提出但是现在没有引用,目录何解共享也是一个单点问题,如果当目录共享挂掉了是不是也会导致HDFS挂掉。所以就被一些企业抛弃了。
方案二、使用JournalNode方案
我们使用JN来保存元数据信息就不会造成单点问题,JN也是一个集群,我们一般决H部署JN一般会选择基数例如3,5,7,9等。JN有一个政策只要存活的节点大于二分之一就是一个正常的服务。
注意:我们不要为了解决NameNode的单点问题选择的的组件也是单点问题,这个根本还是没有解决。
JN中的信DF息都是一样的,那为什么也是其中的一个NameNode就是写数据其中一个就是读取数据那?
其实NameNode也是有角色之分的写的为action读为standby,在高可用的架构中只有一个NameNode真正对外服S单务, 用户也只会对action的NameNode进行打交道,举个理解:假设我们在工作中有2个领导(平级的)我们去请假其中一个领导同意其中一个领导不同意那这个假到底修还是不修那?这不就乱套了吗?也就是在高可用点问架构中同一时间只有一个说的算。
方案三、使用zookeeper方案
其实企业中也有好多使用zookeeper来带代替了。我们来想一想JN解决了什么问题,不是就数据的一致性和单点故障我们在想想zookeepr是不是也题的有,于是企业中就把zookeeper的源码改了改就使用了这个方案。
总体架构
以上的解决方案是不是可以解决了NameNode单点问题,假设在凌晨的时候action的NameNode挂掉了是不是要进行切换我们是不企业是需要人工去切换。是不是切换不及时就到导致整个集群不可用。接下来我实现自动切换。
两个NameNode启动成功后都会去zookeeper注册自己zookeeper中会有一把锁那个NameNode注册是如成功了就是action当其他的NameNode在去注册是发现已经被注册了就变成了standby。
每个NameNode都部署了ZKFC 来监控NameNode的情况当action的NameNode发生故障时Ac何解tionZKF通过zookeeper删除临时的zNode (释放锁)StandBy状态下的ZKF订阅了这个临时的zNode的变换,若zNode消失,StandBy状态的ZKFC立刻通过standby NameNod决He。StandByNameNode远程登录actionNameNode执行kill-9 actionNameNode。StandByNameNode通知StandByZkfc去zookeeper上注册zNode,DF注册成功转换为action状态。这样就实现了自己转换
小结
上述给大家讲解了几种解决HDFS单点故障的问题,不知道大家吸收有多少,如果有不会的可以在下方留言或着私信我 我来给你解答。下期会分享NameNode内存受限该怎S单么解决。 我在这里为大家提供大数据的资料(企业面试题,简历模板等)需要的朋友可以去下面GitHub去下载,信自己,努力和汗水总会能得到回报的。
Tags:
相关文章
vivo 蓝心3B 端侧大模型震撼发布:集成五大核心能力,性能超越所有8B 模型
热点在今日举行的 2025vivo 开发者大会上,vivo 宣布其在端侧人工智能领域取得重大突破,正式推出经过持续一年训练优化的 蓝心3B 端侧多模态推理大模型。 这款3B(30亿参数)量级的端侧大模型,...
【热点】
阅读更多Google X华人博士发布机器人模拟器SimGAN,ICLR2021已发表
热点工科的同学想必离不开各种各样的模拟器,模拟器使各种工程学科能够用最少的人力快速制作原型。 在机器人技术领域,物理模拟为机器人提供了一个安全而廉价的虚拟操场,机器人可以利用深强化学习(DRL)等技术获得...
【热点】
阅读更多标签: 携程集团 2025年财报 国际OTA 入境旅游
热点云梦级2月26日云梦级消息,携程集团在港交所公布 2025 年第四季度及全年未经审计财务业绩。 财报显示,携程集团 2025 年全年国际 OTA 平台总预订同比增长约 60%,全年服务入境旅客约 20...
【热点】
阅读更多
热门文章
最新文章
友情链接
- 标签: 康师傅
- https://www.hanbat.ac.kr/search/front/Search.jsp?qt=快排霸屏软件【tg:seogoogle987】Wyb
- https://www.umc.edu/search.aspx?ID=I4gnDKRS991MFcIDDzoYze4aWSAszAm7&q=快排霸屏软件【tg:seogoogle987】,hMB
- https://www.whiterock2008.com.tw/search?q=快排霸屏软件【tg:seogoogle987】,E4w
- https://www.teamlab.art/es/?submit=快排霸屏软件【tg:seogoogle987】,3gI
- https://www.udc.co.uk/index.php?route=product/search&sort=p.price&order=DESC&tag=快排霸屏软件【tg:seogoogle987】,oIX
- https://www.sic-info.org/?s=快排霸屏软件【tg:seogoogle987】,Dfo
- https://www.tombow.com/search/快排霸屏软件【tg:seogoogle987】,EwT
- https://yscc1986.net/search/快排霸屏软件【tg:seogoogle987】20h
- https://www.takachi-enclosure.com/search?eqYB=gnI31Ou&text=快排霸屏软件【tg:seogoogle987】,AFB
- https://www.mynextmove.org/find/search?s=快排霸屏软件【tg:seogoogle987】,EZp
- https://www.polliwogs.com/search/快排霸屏软件【tg:seogoogle987】,OkL
- https://www.synonyms.com/antonyms/快排霸屏软件【tg:seogoogle987】,Ttn
- https://www.polar-tech.com/?action=QUERY&s=快排霸屏软件【tg:seogoogle987】,IoB
- https://www.pearlstonecenter.org/search/快排霸屏软件【tg:seogoogle987】,lf3
- https://www.lyrics.com/lyrics/快排霸屏软件【tg:seogoogle987】,sWU
- https://www.rea.govt.nz/search?searchterm=快排霸屏软件【tg:seogoogle987】,Jlc
- https://www.tumblr.com/tagged/快排霸屏软件【tg:seogoogle987】,ChZ
- https://www.teamlab.art/?submit=快排霸屏软件【tg:seogoogle987】,Quz
- https://www.universal-music.co.jp/search/?q=快排霸屏软件【tg:seogoogle987】,U9b
- https://www.world-architects.com/en/search?term=快排霸屏软件【tg:seogoogle987】,lan
- https://www.wuv.edu/?s=快排霸屏软件【tg:seogoogle987】,BjG
- https://hsmoa.com/search?query=快排霸屏软件【tg:seogoogle987】6gM
- https://www.lauben.com/de/?s=快排霸屏软件【tg:seogoogle987】,LpL
- https://nicolazzi.it/en/?s=快排霸屏软件【tg:seogoogle987】,Vf2
- https://www.youtube.com/results?search_query=快排霸屏软件【tg:seogoogle987】,XTP
- https://www.pixiv.net/tags/快排霸屏软件【tg:seogoogle987】,12W
- https://www.silentiumpc.com/en/search/快排霸屏软件【tg:seogoogle987】,h5T
- https://www.reallywildbirdfood.co.uk/store/search?q=快排霸屏软件【tg:seogoogle987】,dJK
- https://www.tailoy.com.pe/catalogsearch/result/?q=快排霸屏软件【tg:seogoogle987】,bM9
- https://www.remit.co.jp/vi/?s=快排霸屏软件【tg:seogoogle987】PH8
- https://www.sic-info.org/vi/?s=快排霸屏软件【tg:seogoogle987】,Oa0
- https://www.target.com/s?searchTerm=快排霸屏软件【tg:seogoogle987】,rgi
- https://www.yidian51.com/taobao/快排霸屏软件【tg:seogoogle987】,Pcr
- https://www.sdcard.org/ja/?s=快排霸屏软件【tg:seogoogle987】,FXZ
- https://www.mingwai.edu.hk/?langzh-hant&s=快排霸屏软件【tg:seogoogle987】,kPj
- https://www.hanbat.ac.kr/search/front/Search.jsp?qt=快排霸屏软件【tg:seogoogle987】tQG
- https://www.searcychamber.com/list/search?AsfnA=DtkTQzs&q=快排霸屏软件【tg:seogoogle987】,URH
- https://www.realsporting.com/buscador?buscar=快排霸屏软件【tg:seogoogle987】,6p6
- https://www.simcoemuskokahealth.org/SearchResults.aspx?SearchQuery=快排霸屏软件【tg:seogoogle987】,Dnr
- https://www.swanagerailway.co.uk/search?q=快排霸屏软件【tg:seogoogle987】,7gl
- https://www.krisinformation.se/en/search?q=快排霸屏软件【tg:seogoogle987】,Tg2
- https://www.sic-info.org/en/?s=快排霸屏软件【tg:seogoogle987】,fI4
- https://www.smics.com/tc/site/search?token=快排霸屏软件【tg:seogoogle987】,gqC
- https://www.partilerdunyasi.com/index.php?route=product/search&tag=快排霸屏软件【tg:seogoogle987】,qqI
- https://www.pearson.com/en-us/search.html?aq=快排霸屏软件【tg:seogoogle987】,uwt
- https://www.kelsa.co.uk/catalogsearch/result/index/?T=1686132119291&q=快排霸屏软件【tg:seogoogle987】,EJI
- https://www.luxurysociety.com/en/search?q=快排霸屏软件【tg:seogoogle987】,5Ph
- https://www.sensorshop24.de/catalogsearch/result/index/?type=132&q=快排霸屏软件【tg:seogoogle987】,GU1
- https://m.shoppinghow.kakao.com/m/search/q/快排霸屏软件【tg:seogoogle987】VT8
- https://www.mdbg.net/chinese/dictionary?page=worddict&wdrst=0&wdqb=快排霸屏软件【tg:seogoogle987】,DYn