分类: LINUX
2019-08-09 10:28:21
Cluster 是一个事件驱动的开源 Python 库,旨在在服务器场或大型 集群上并行运行本地或远程。(clush 即 Cluster)。 |
它将处理在 HPC 集群上遇到的常见问题,例如在节点组上操作,使用优化过的执行算法运行分布式,以及收集结果和合并相同的输出,或检索返回代码。
ClusterShell 可以利用已安装在系统上的现有远程 shell 设施,如 SSH。
ClusterShell 的主要目标是通过为开发人员提供轻量级、但可扩展的 Python API 来改进高性能集群的管理。它还提供了 clush、clubak 和 cluset/nodeset 等方便的命令行工具,可以让传统的 shell 利用这个库的一些功能。
ClusterShell 是用 Python 编写的,它需要 Python(v2.6+ 或 v3.4+)才能在你的系统上运行。
ClusterShell 包在大多数发行版的官方包管理器中都可用。因此,使用发行版包管理器工具进行安装。
对于 Fedora 系统,使用DNF 命令来安装 clustershell。
$ sudo dnf install clustershell
如果系统默认是 Python 2,这会安装 Python 2 模块和工具,可以运行以下命令安装 Python 3 开发包。
$ sudo dnf install python3-clustershell
在执行 clustershell 安装之前,请确保你已在系统上启用 EPEL 存储库。
对于 RHEL/ 系统,使用 YUM 命令 来安装 clustershell。
$ sudo yum install clustershell
如果系统默认是 Python 2,这会安装 Python 2 模块和工具,可以运行以下命令安装 Python 3 开发包。
$ sudo yum install python34-clustershell
对于 openSUSE Leap 系统,使用 Zypper 命令 来安装 clustershell。
$ sudo zypper install clustershell
如果系统默认是 Python 2,这会安装 Python 2 模块和工具,可以运行以下命令安装 Python 3 开发包。
$ sudo zypper install python3-clustershell
对于 Debian/Ubuntu 系统,使用 APT-GET 命令 或 APT 命令 来安装 clustershell。
$ sudo apt install clustershell
可以使用 PIP 安装 ClusterShell,因为它是用 Python 编写的。
在执行 clustershell 安装之前,请确保你已在系统上启用了 Python 和 PIP。
$ sudo pip install ClusterShell
与其他实用程序(如 pssh 和dsh )相比,它是直接了当的优秀工具。它有很多选项可以在远程并行执行。
在开始使用 clustershell 之前,请确保你已启用系统上的无密码登录。
以下配置文件定义了系统范围的默认值。你不需要修改这里的任何东西。
$ cat /etc/clustershell/clush.conf
如果你想要创建一个服务器组,那也可以。默认情况下有一些示例,请根据你的要求执行相同操作。
$ cat /etc/clustershell/groups.d/local.cfg
只需按以下列格式运行 clustershell 命令即可从给定节点获取信息:
$ clush -w 192.168.1.4,192.168.1.9 cat /proc/version 192.168.1.9: Linux version 4.15.0-45-generic ([email protected]) (gcc version 7.3.0 (Ubuntu 7.3.0-16ubuntu3)) #48-Ubuntu SMP Tue Jan 29 16:28:13 UTC 2019 192.168.1.4: Linux version 3.10.0-957.el7.x86_64 ([email protected]) (gcc version 4.8.5 20150623 (Red Hat 4.8.5-36) (GCC) ) #1 SMP Thu Nov 8 23:39:32 UTC 2018
选项:
-w: 你要运行该命令的节点。
你可以使用正则表达式而不是使用完整主机名和 IP:
$ clush -w 192.168.1.[4,9] uname -r 192.168.1.9: 4.15.0-45-generic 192.168.1.4: 3.10.0-957.el7.x86_64
或者,如果服务器位于同一 IP 系列中,则可以使用以下格式:
$ clush -w 192.168.1.[4-9] date 192.168.1.6: Mon Mar 4 21:08:29 IST 2019 192.168.1.7: Mon Mar 4 21:08:29 IST 2019 192.168.1.8: Mon Mar 4 21:08:29 IST 2019 192.168.1.5: Mon Mar 4 09:16:30 CST 2019 192.168.1.9: Mon Mar 4 21:08:29 IST 2019 192.168.1.4: Mon Mar 4 09:16:30 CST 2019
clustershell 允许我们以批处理模式运行命令。使用以下格式来实现此目的:
$ clush -w 192.168.1.4,192.168.1.9 -b Enter 'quit' to leave this interactive mode Working with nodes: 192.168.1.[4,9] clush> hostnamectl --------------- 192.168.1.4 --------------- Static hostname: CentOS7.2daygeek.com Icon name: computer-vm Chassis: vm Machine ID: 002f47b82af248f5be1d67b67e03514c Boot ID: f9b37a073c534dec8b236885e754cb56 Virtualization: kvm Operating System: CentOS Linux 7 (Core) CPE OS Name: cpe:/o:centos:centos:7 Kernel: Linux 3.10.0-957.el7.x86_64 Architecture: x86-64 --------------- 192.168.1.9 --------------- Static hostname: Ubuntu18 Icon name: computer-vm Chassis: vm Machine ID: 27f6c2febda84dc881f28fd145077187 Boot ID: f176f2eb45524d4f906d12e2b5716649 Virtualization: oracle Operating System: Ubuntu 18.04.2 LTS Kernel: Linux 4.15.0-45-generic Architecture: x86-64 clush> free -m --------------- 192.168.1.4 --------------- total used free shared buff/cache available Mem: 1838 641 217 19 978 969 Swap: 2047 0 2047 --------------- 192.168.1.9 --------------- total used free shared buff/cache available Mem: 1993 352 1067 1 573 1473 Swap: 1425 0 1425 clush> w --------------- 192.168.1.4 --------------- 09:21:14 up 3:21, 3 users, load average: 0.00, 0.01, 0.05 USER TTY FROM LOGIN@ IDLE JCPU PCPU WHAT daygeek :0 :0 06:02 ?xdm? 1:28 0.30s /usr/libexec/gnome-session-binary --session gnome-classic daygeek pts/0 :0 06:03 3:17m 0.06s 0.06s bash daygeek pts/1 192.168.1.6 06:03 52:26 0.10s 0.10s -bash --------------- 192.168.1.9 --------------- 21:13:12 up 3:12, 1 user, load average: 0.08, 0.03, 0.00 USER TTY FROM LOGIN@ IDLE JCPU PCPU WHAT daygeek pts/0 192.168.1.6 20:42 29:41 0.05s 0.05s -bash clush> quit
如果要在一组节点上运行该命令,请使用以下格式:
$ clush -w @dev uptime or $ clush -g dev uptime or $ clush --group=dev uptime 192.168.1.9: 21:10:10 up 3:09, 1 user, load average: 0.09, 0.03, 0.01 192.168.1.4: 09:18:12 up 3:18, 3 users, load average: 0.01, 0.02, 0.05
如果要在多个节点组上运行该命令,请使用以下格式:
$ clush -w @dev,@uat uptime or $ clush -g dev,uat uptime or $ clush --group=dev,uat uptime 192.168.1.7: 07:57:19 up 59 min, 1 user, load average: 0.08, 0.03, 0.00 192.168.1.9: 20:27:20 up 1:00, 1 user, load average: 0.00, 0.00, 0.00 192.168.1.5: 08:57:21 up 59 min, 1 user, load average: 0.00, 0.01, 0.05
clustershell 允许我们将文件复制到远程计算机。将本地文件或目录复制到同一个远程节点:
$ clush -w 192.168.1.[4,9] --copy /home/daygeek/passwd-up.sh
我们可以通过运行以下命令来验证它:
$ clush -w 192.168.1.[4,9] ls -lh /home/daygeek/passwd-up.sh 192.168.1.4: -rwxr-xr-x. 1 daygeek daygeek 159 Mar 4 09:00 /home/daygeek/passwd-up.sh 192.168.1.9: -rwxr-xr-x 1 daygeek daygeek 159 Mar 4 20:52 /home/daygeek/passwd-up.sh
将本地文件或目录复制到不同位置的远程节点:
$ clush -g uat --copy /home/daygeek/passwd-up.sh --dest /tmp
我们可以通过运行以下命令来验证它:
$ clush --group=uat ls -lh /tmp/passwd-up.sh 192.168.1.7: -rwxr-xr-x. 1 daygeek daygeek 159 Mar 6 07:44 /tmp/passwd-up.sh
将文件或目录从远程节点复制到本地系统:
$ clush -w 192.168.1.7 --rcopy /home/daygeek/Documents/magi.txt --dest /tmp
我们可以通过运行以下命令来验证它:
$ ls -lh /tmp/magi.txt.192.168.1.7 -rw-r--r-- 1 daygeek daygeek 35 Mar 6 20:24 /tmp/magi.txt.192.168.1.7