subtitle
10
16
hadoop shell 命令介绍 hadoop shell 命令介绍
Hadoop Shell 命令介绍在Hadoop2.0部署目录中,bin目录下有四个常见Shell脚本:hadoop、hdfs、yarn和mapred,它们分别负责common、HDFS、YARN和MapReduce四个模块的管理工作,用户
2020-10-16
16
16
一、yarn产生背景(yarn设计理念与基本架构) 一、yarn产生背景(yarn设计理念与基本架构)
一、yarn产生背景(yarn设计理念与基本架构) 学习了董西成的Hadoop技术内幕第二章总结回顾 由于MRv1在扩展性、可靠性、资源利用率和多框架等方面存在明显不足,Apache开始尝试对MapReduce进行升级改造,于是诞生了更加先
2020-10-16
16
数据库范式 数据库范式
数据库范式 设计关系数据库时,遵从不同的规范要求,设计出合理的关系型数据库,这些不同的规范要求被称为不同的范式,各种范式呈递次规范,越高的范式数据库冗余越小。 范式的由来范式来自英文Normal form,简称NF。要想设计—个好的关系,
16
spark性能优化 spark性能优化
spark性能优化1、性能调优1.1、分配更多资源1.1.1、分配哪些资源?Executor的数量每个Executor所能分配的CPU数量每个Executor所能分配的内存量Driver端分配的内存数量 1.1.2、在哪里分配这些资源?在生