var SAAS_SHOP = 'https://saas.wqdian.com'; var SAAS_NEWS = 'https://saas.wqdian.com'; var PC_CTX = 'https://p.wqdian.com/'; // js中取pcdesign中的变量的域名 try { var domain = "http://member.wqdian.com"; if(domain.indexOf("wqdian.com") != -1) { document.domain = "wqdian.com"; }else if (domain.indexOf("wqdian.net") != -1) { document.domain = "wqdian.net"; } } catch (e) { //console.log("跨域"); } (function () { var userAgent = navigator.userAgent, isMobile = !!userAgent.match(/AppleWebKit.*Mobile.*/); if(isMobile) { var viewport = document.querySelector('meta[name="viewport"]'), wWidth = document.documentElement.clientWidth || window.innerWidth || document.body.clientWidth; sca = wWidth/320, displayMode = 'pc'; if(displayMode == "phone") { viewport.content='width=320,initial-scale='+sca+',minimum-scale='+sca+',maximum-scale='+sca+', user-scalable=no'; } else if(displayMode == "pc") { var pcWidth = '' || 1600; sca = wWidth / pcWidth; viewport.content='width=320,initial-scale=1'; viewport.content='width=320,initial-scale='+sca+',minimum-scale='+sca; } } //处理pc模版模版预览超链接新窗口打开问题 -- hjj window.parent != window.self && $(document).find("a[target=_blank]").removeAttr("target"); })();

大数据集群一站式解决方案

产品+运维+培训=安全生产集群

step1:选择产品

CDH5 现在依旧是市场上用的最多,推得最广的版本,客户认可度也较高。同时,CDH5经过快5年的迭代也是目前最成熟和稳定的版本,各个组件跟随着社区版的更新迭代,已经把各个组件的bug修复得很完善。另外,无论是国外还是国内支持案例也多,国内可以找到很多相关的实施案例供参考,可以节省运维人力、物力成本。最后CDH5的周边生态圈支持也比较丰富,无论是开源还是商业产品,ETL工具,调度工具,报表工具,BI工具等。你如果现在选择CDH5或者已经在用了,Cloudera也官宣了依旧会再支持三年。

CDH6 的更新较大,很多组件也都是大版本更新,引入了很多激动人心的新功能,同时各个组件也修复了大量已知的问题和安全漏洞。比如HDFS的纠删码用于冷数据降低存储成本又保证了数据的可用性,NameNode和YARN的联邦解决大规模集群的性能瓶颈问题,YARN引入GPU支持,未来会引入docker支持等。长远来看,从Hadoop2升级到Hadoop3或者从CDH5升级到CDH6是必须的,因为无论是社区还是Cloudera从现在开始开始都会将开发重心转移到Hadoop3或CDH6上,而CDH5则主要以维护和修复bug为主。

建议:
1. 如果你是新搭集群,并且规模不太大(50个节点以内),基于Hadoop的应用也都是新开发,CDH6是一个不错的选择,毕竟避免了以后还要考虑从CDH5升级到CDH6的麻烦,同时还需要进行一次应用测试和迁移。未来迁移到CDH和HDP的合并版本CDP也会更加容易。
2. 如果你已经有CDH5集群,作为生产系统各种应用已经稳定运行了较长的时间,如果不是因为功能或性能原因必须要用新版本,现阶段可以暂时不考虑升级,继续观望一段时间。而你一旦决定升级,需要谨慎和细致的对待,包括你要考虑OS,JDK,元数据库等的升级,已有各种应用比如Hive/Impala/Spark SQL,MapReduce/Spark代码,脚本,Python/R算法工程等在CDH6进行测试,同时周边的一些工具对接比如ETL,调度,报表,BI工具等也需要进行对接测试,一切测试通过以后规划好合理的停机时间,然后进行升级。

step2:选择服务

step3:提交需求

大数据平台运维专家,服务中国企业数字化转型战略。

联系我们

400-601-6012

上海市新二路55号空间技术应用产业基地13层

business@bemore.cn

碧茂科技

在线留言

工商亮照标识