科技改变世界,技术改变人生。
发布时间:2015-12-10 11:52:00
1、问题前几天因为一个hive SQL的问题,导致其中很多节点机器的磁盘空间不足,job执行结束后,临时文件删除解决了空间不足的问题;查看http://hostname:8088/cluster/nodes发现出现了一个unhealty节点,错误信息如下1/4 local-dirs turned bad: /data1/hadoop/yarn/local;1/4 log-dirs turned bad: /data1/hadoop/yarn/.........【阅读全文】
发布时间:2015-12-10 09:59:42
交换变量x = 6y = 5x, y = y, xprint x>>> 5print y>>> 6if 语句在行内print "Hello" if True else "World">>> Hello连接下面的最后一种方式在绑定两个不同类型的对象时显得很酷。nfc = ["Packers", "49ers"]afc = ["Ravens", "Patriots"]print nfc + afc>>> ['Packers', '49ers', 'Ravens', 'Patr.........【阅读全文】
发布时间:2015-12-09 10:09:19
近期ambari有 一台客户端一直为lost状态,各服务无法操作,查看ambari-agent状态正常。# service ambari-agent statusFound ambari-agent PID: 1313ambari-agent running.Agent PID at: /var/run/ambari-agent/ambari-agent.pidAgent out at: /var/log/ambari-agent/ambari-agent.outAgent log at: /var/log/ambari-a.........【阅读全文】
发布时间:2015-12-07 16:08:20
Python中字符串处理函数里有三个去空格的函数:strip 同时去掉左右两边的空格lstrip 去掉左边的空格rstrip 去掉右边的空格具体示例如下:>>>a=" go go ">>>a.lstrip()'go go '>>>a.rstrip()' go go'>>>a.strip()'go go'还可以使用替换的方法>>>" g o g o ".replace(' ', '') "gogo" .........【阅读全文】
发布时间:2015-12-01 17:11:48
Ambari 常用的 REST API 介绍Ambari 借鉴了很多成熟分布式软件的 API 设计。Rest API 就是一个很好地体现。通过 Ambari 的 Rest API,可以在脚本中通过 curl 维护整个集群。并且,我们可以用 Rest API 实现一些无法在 Ambari GUI 上面做的操作。下面是一些实例。实例 1,通过 API 卸载已安装的 Service目前 Ambari 不.........【阅读全文】
发布时间:2015-11-30 15:09:10
一、系统环境系统平台:CentOS release 6.3 (Final)rsync 版本:rsync-3.0.9-2.el6.rfx.x86_64.rpmrsync 服务器:SERVER (172.16.1.135)rsync 客户端:CLIENT (172.16.1.136)二、服务器端安装rsync服务2.1. 检查rsync 是否已经安装# rpm -qa|grep rsync若已经安装,则使用rpm -e 命令卸载。2.2. 下载RPM包.........【阅读全文】
发布时间:2015-11-27 15:13:26
因业务需求需要安装nginx-1.8.0+php-5.6.15+mysql-5.6.27服务web服务,将文档整理下,分享出来。php支持 (OpenSSL PDO Mbstring Tokenizer Opcache Mcrypt)为了下面的安装顺利建议先使用yum安装依赖库,前期准备yum install -y make cmake gcc gcc-c++ autoconf automake libpng-devel libjpeg-devel zlib libxml2-de.........【阅读全文】
发布时间:2015-11-27 10:33:44
history log无法查看问题通过历史log服务器查看log信息,无法打卡log:所有服务都正常启动,配置文件也正常。查看历史服务器的log发现如下报错:2015-11-24 16:11:12,172 ERROR webapp.View (AggregatedLogsBlock.java:render(106)) - Error getting logs for attempt_1447751602196_8305_m_000000_0org.apache.hado.........【阅读全文】
发布时间:2015-11-25 14:52:17
This section describes how to manually calculate YARN and MapReduce memory allocation settings based on the node hardware specifications.YARN takes into account all of the available resources on each machine in the cluster. Based on the available resources, YARN negotiates resource requests.........【阅读全文】
发布时间:2015-11-25 11:14:59
Hadoop 1.x中fsimage和edits合并实现用过Hadoop的用户应该都知道在Hadoop里面有个SecondaryNamenode进程,从名字看来大家很容易将它当作NameNode的热备进程。其实真实的情况不是这样的。SecondaryNamenode是HDFS架构中的一个组成部分,它是用来保存namenode中对HDFS metadata的信息的备份,并减少namenode重启的时间而设.........【阅读全文】