ceph 10.2.5 在centos7.3 下的安装配置和使用系列之三---故障解决篇

五、安装过程中故障及解决

1、故障信息

[ceph][DEBUG ] Delta RPMs disabled because /usr/bin/applydeltarpm not installed.
[ceph][WARNIN]  [Errno -1] 软件包与预期下载的不符。建议：运行 yum --enablerepo=centos-ceph-hammer clean metadata
[ceph][WARNIN] 正在尝试其它镜像。

解决方法

因为之前执行的yum update 之后没有reboot，reboot后再次执行就OK了。

2、故障信息

/etc/init.d/ceph: line 15: /lib/lsb/init-functions: No such file or directory 错误

解决

查询缺少哪个包

yum provides /lib/lsb/init-functions

安装上缺少的包后解决

yum install -y redhat-lsb-core-4.1-27.el7.centos.1.x86_64

3、故障信息

file /etc/yum.repos.d/ceph.repo from install of ceph-release-1-1.el7.noarch conflicts with file from package ceph-release-1-1.el7.noarch

解决，删除冲突包

yum remove ceph-release-1-1.el7.noarch

4、故障信息

[ceph][DEBUG ] Delta RPMs disabled because /usr/bin/applydeltarpm not installed.

解决

yum provides /usr/bin/applydeltarpm
yum info deltarpm-3.6-3.el7.x86_64
yum install deltarpm-3.6-3.el7.x86_64

5、故障信息

xxx packages excluded due to repository priority protections


/etc/yum/pluginconf.d/priorities.conf and set enabled = 0. After this change, next time you run yum update

解决方法，按照提示即可

6、故障信息 （repo优先导致安装失败）

[try][WARNIN] ensuring that /etc/yum.repos.d/ceph.repo contains a high priority
[ceph_deploy][ERROR ] RuntimeError: NoSectionError: No section: 'ceph' 

解决方法，运行如下命令：

sudo mv /etc/yum.repos.d/ceph.repo /etc/yum.repos.d/ceph-deploy.repo

原因分析

系统内多个repo内如果存在多个ceph安装仓库，启用优先级后（/etc/yum/pluginconf.d/priorities.conf and set enabled = 1），那么yum只会找优先级较高的仓库安装，优先级低的即使有合适的包也不会安装

了解原因后，可以采用--disablerepo 和 --enablerepo参数解决

yum repolist   ## 列出所有仓库，找出适合本次安装的仓库名称
yum --disablerepo=*   \ ## 先禁止所有仓库
     --enablerepo=ceph \ ## 允许该仓库
     install -y ceph

7、诡异的权限

提示

[osd2][WARNIN]     raise Error('%s failed : %s' %   (str(arguments), error))
[osd2][WARNIN] ceph_disk.main.Error: Error: ['ceph-osd', '--cluster', 'ceph', '--mkfs', '--mkkey', '-i', u'7', '--monmap', '/disk3/activate.monmap', '--osd-data', '/disk3', '--osd-journal', '/disk3/journal', '--osd-uuid', u'c58aca37-d9be-4a64-bda3-29bec450cc20', '--keyring', '/disk3/keyring', '--setuser', 'ceph', '--setgroup', 'ceph'] failed : 2017-02-03 17:43:59.332097 7f77b6997800 -1 filestore(/disk3) mkfs: write_version_stamp() failed: (13) Permission denied
[osd2][WARNIN] 2017-02-03 17:43:59.332122 7f77b6997800 -1 OSD::mkfs: ObjectStore::mkfs failed with error -13
[osd2][WARNIN] 2017-02-03 17:43:59.332179 7f77b6997800 -1  ** ERROR: error creating empty object store in /disk3: (13) Permission denied

查看权限

/disk3的权限都是ceph的，百思不得其解

解决方法，手动重新设置属主权限给ceph用户

chown -R ceph:ceph /disk3
chown root:root /disk3/activate.monmap
居然解决了。。。。

8、安装官网ceph仓库后，yum install 居然优先安装装低版本的问题

查看低版本的仓库为cobbler安装生成的centos 7.2仓库

解决方法，禁止该仓库即可

vi /etc/yum.repos.d/cobbler-config.repo
enabled=0  # 从1 修改为0

9、由于集群时间不一致造成的cephx认证故障

错误提示

 health HEALTH_WARN
     4 requests are blocked > 32 sec

查看日志

 grep 'slow request' /var/log/ceph/ceph.log | awk  '{print $3}' | sort | uniq -c | sort -n
   cephx: verify_reply couldn't decrypt with error: error decoding block for decryption

原因

新加了osd4 时间和集群不一致导致的错误

解决

 ntpdate 192.168.1.172 ## 集群内部的时间服务器ip