问答文章1 问答文章501 问答文章1001 问答文章1501 问答文章2001 问答文章2501 问答文章3001 问答文章3501 问答文章4001 问答文章4501 问答文章5001 问答文章5501 问答文章6001 问答文章6501 问答文章7001 问答文章7501 问答文章8001 问答文章8501 问答文章9001 问答文章9501

如何规划和配置YARN和MapReduce 2

发布网友 发布时间:2022-04-27 03:56

我来回答

1个回答

热心网友 时间:2022-04-14 06:38

arn 的优点:
  这个设计大大减小了 JobTracker(也就是现在的 ResourceManager)的资源消耗,并且让监测每一个 Job 子任务 (tasks) 状态的程序分布式化了,更安全、更优美。
  在新的 Yarn 中,ApplicationMaster 是一个可变更的部分,用户可以对不同的编程模型写自己的 AppMst,让更多类型的编程模型能够跑在 Hadoop 集群中,可以参考 hadoop Yarn 官方配置模板中的 mapred-site.xml 配置。
  对于资源的表示以内存为单位 ( 在目前版本的 Yarn 中,没有考虑 cpu 的占用 ),比之前以剩余 slot 数目更合理。
  老的框架中,JobTracker 一个很大的负担就是监控 job 下的 tasks 的运行状况,现在,这个部分就扔给 ApplicationMaster 做了,而 ResourceManager 中有一个模块叫做 ApplicationsMasters( 注意不是 ApplicationMaster),
声明声明:本网页内容为用户发布,旨在传播知识,不代表本网认同其观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。E-MAIL:11247931@qq.com
上市就跌的股票为什么 为什么新股都会暴跌 为什么新股上市都跌 身上有烧伤的伤疤怎么去除 石榴皮发霉还能吃吗?新鲜石榴的保存方法有哪些? 5岁上瑞思和英孚哪个好 瑞思和英孚哪个好?上过课后来说说各自的优缺点 瑞思和英孚哪个好?上过课后来分享各自的优缺点 怎么当历史老师 中学历史老师需求状况 10-Pyspark启动与日志设置 我的手很硬,有什么办法可以让手变得软软的,有光泽呢? yarn日志聚合设置后为什么hdfs上日志不能清除? Spark on YARN怎么配置的 yarn.scheduler.maximum-allocation-mb是每个节点都要配置吗 Linux中怎么用源地址统计日志和输出 iphone跟iCloud合并还是不合并呢? 整个手都太硬了,怎么样才能变软 Flink主节点如何访问工作节点日志 手比较硬,通过压手指会变软吗? 雷电三是否可以使用普通的USB TYPE C连接线 Type-C有啥好处和闪电接口比有啥优势和好处一样吗有区别吗? 雷电3的插口在外形上和USB-C的一样吗? 雷电3和USB Type-C,USB3.1之间有什么关系 微信钱包可以刷地铁吗 南宁轨道交通设的是微信支付为什么会扣银行卡的钱? 都是USB-c雷电和普通的USB有啥不同呢? 在linux下怎么把数据库文件 我把linux下的mysql文件夹拷贝了下来,想在另一台linux下的mysql上恢... 互联网电视的芒果影视包月29元业务是什么用的? 手从小很硬,又粗,伸不值,怎么办,才能让手指骨节变软呢?今年都十九了,有改变吗 用什么命令查看yarn平台mr运行的日志 我的手总是很坚硬,怎么可以变软 想学弹琴,可是手太硬了,有什么好的方法将手变软 Linux里面YARN作用是什么? yarn container日志在哪个地方 请教yarn.nodemanager.local-dirs 的配置问题 跨年发票可以红字冲销吗 发票跨年可以红冲吗 两年前的发票可以红冲吗 跨年的发票红冲的规定 超过一年的普通发票可以红冲重新开具吗? 2019年的发票2021年能红冲吗 对账时发现购买方有一张两年前的*没收到,销售方该如何红冲重开*? 增值税发票可以隔年红冲吗? 二类农业银行卡是什么意思 一年不能存一万吗? 几个月前开的发票还可以冲红字单吗 跨年度可以申请开红字发票吗 去年开的普通发票今年能开红字吗 2年前的发票需要做红冲,购买方已认证,税率不一样了,怎么办?