发布时间:2013-01-22 14:44:32
线上部署hadoop、hbase 一般都是采用存储、计算一对一的方式,即每个节点启动 hadoop 的 datanode(以下简称dn)& tasktracker(以下简称tt) 再加 hbase regionserver(以下简称rs),hadoop namenode(以下简称nn)和 hbase master(以下简称master)一般在负载较轻的情况下可以部署在同一个.........【阅读全文】
发布时间:2013-01-11 16:21:23
运维过程中经常会发现一些 C 程序,每天会生产这样的日志: /home/admin/app_name/logs/access_log 那么天长地久,如果这个程序不会自动去轮转这个日志,那么这个日志文件则会越来越大,我们其实可以使用 linux 里面的 logrotate 来实现自定义日志轮转. 方法如下: 一、建立轮转配置文件: #vi /etc/logrotate.d/app_name /home/admin/app_name/logs/access_log { daily dateext copytruncat......【阅读全文】
发布时间:2013-01-10 10:46:32
由于服务器整框对外提供服务,对外出去的两个交换机做了 bond 的备份模式,这样所有服务器的网络默认都是从同一个交换机出去,导致master交换机很忙,但slave交换机缺很闲,资源得不到合理利用,这时,就需要手工将其中一半的服务器的bond切换到slave交换机上,使交换机资源得到合理利用和分流的效果,具体操作如下:一、需要查看的相关配置文件:cat /etc/modprobe.conf cat /proc/net/bonding/bond0二、整理整框的主机名:#cat listSERVER-HST-01SERVER-HST-02SERVER-HST-03SERVER-HST-04SER......【阅读全文】
发布时间:2013-01-07 16:46:50
应用场景: 同一个集群内有些服务器磁盘 2T,有些服务器 500G,2T 的服务器磁盘得不到有效利用,这是就需要对 500G 的磁盘做限额配置. 配置方法: 在 hdfs-site.xml 里配置如下参数,注意,那个 value 的值是配置该磁盘保留的DFS不能使用的空间大小,单位是字节. (如果多块硬盘,则表示为每块硬盘保留这么多空间) <property> <name>dfs.datanode.du.reserved</name> <!-- cluster variant --> <value>236223......【阅读全文】
发布时间:2013-01-05 18:46:57
区别描述: 两者都是对符合条件的文件执行所给的Linux 命令,而不询问用户是否需要执行该命令。-exec:{}表示命令的参数即为所找到的文件,以;表示comman命令的结束。\是转义符,因为分号在命令中还有它用途,所以就用一个\来限定表示这是一个分号而不是表示其它意思。 -ok: 和 -exec 的作用相同,格式也一样,只不过以一种更为安全的模式来执行该参数所给出的shell给出的这个命令之前,都会给出提示,让用户来确定是否执行。 xargs 要结合管道来完成 格式:find [option] express |xargs command 用一个实例来看看exec和x......【阅读全文】