前言
gpfs 的简介
gpfs 是 ibm 公司第一个共享文件系统,起源于 ibm sp 系统上使用的虚拟共享磁盘技术( vsd )。作为这项技术的核心, gpfs 是一个并行的磁盘文件系统,它保证在资源组内的 所有节点可以并行访问整个文件系统;而且针对此文件系统的服务操作,可以同时安全地在使用此文件系统的多个节点上实现。 gpfs 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上。与 nfs 相比,gpfs 在 san 环境下可以提供更好的性能。
实验环境说明
实验室示意图
图1.实验环境
机器配置表
表 1. 机器配置表
序号主机名用途ip 地址用户系统环境
1nsd1主 nsd 服务器10.66.3.982 cpu/4 g/aix 5305
2nsd2备用 nsd 服务器10.66.3.992 cpu/4 g/aix 5305
3app1应用服务器10.66.5.51user1(501)2 cpu/4 g/aix 5305
4app2应用服务器10.66.5.52user2(502)2 cpu/4 g/aix 5305
5app3应用服务器10.66.5.53user3(503)2 cpu/4 g/aix 5305
6app4应用服务器10.66.5.54user4(504)2 cpu/4 g/aix 5305
实验目的
由于应用软件有对共享文件系统读写的要求,需要建立一个/share 的共享文件系统,在上面建立不同目录供不同的用户读写使用。
实现方法
安装 gpfs 系统,并利用用户id的不同建立目录,区分权限。举例来说:
1. /share/user1work 我们希望只有 app1 的 user1 用户能读写,那么我们在 app1 机器上设置所有者为 user1,权限为700,完成后其他机器上没有该用户 id,也就没有权限对该目录读写。
2./share/user1temp 我们希望其他用户 userx 可读进入该目录,则设置所有者为 user1,权限可设为750,由于 userx 的用户都是 bea 组的,所以该设置使得在其他机器上 bea 组的 userx 用户有权限进入并读取这个目录的文件。
准备工作
san 配置
1.在阵列端配置磁盘阵列盘,建立 gpfs 的 volume group
2.在光纤交换机配置所有服务器和阵列 host 口划分在一个 zone。
3.利用 dscli 将 volume group 设置和服务器做 hostconnect。
这个工作先用 mkgrou p建立一个 volume group v3,然后用 chvolgrp 将 fbvol 的 volume 磁盘加入该 group。最后用 hostconnect 将服务器的 wwn 号命令逐一通过指定的 ioport 和该 group 以及勾连起来。确认安装结果:
date/time: august 13, 2007 7:40:05 pm gmt+08:00 ibm dscli version: 5.2.400.426 ds:
ibm.2107-75l3351
name id wwpn hosttype profile portgrp volgrpid
essioport
app1 ibm.2107-75l3351/0020 210000e08b9b4d48 pseries ibm pseries-aix 0 ibm.2107-75l3351/v6
i0232,i0032,i0302,i0102
app1 ibm.2107-75l3351/0021 210100e08bbb4d48 pseries ibm pseries-aix 0 ibm.2107-75l3351/v6
i0232,i0032,i0302,i0102
……
4.所有服务器安装 sddpcm 多通道软件
sddpcm 是ibm的高端存储的多路径软件,可以比 aix 缺省的 mpio 软件实现自动负载均衡和零时间 failover,性能也得到提高。试验中安装了 sddpcm 的软件包
devices.fcp.disk.ibm.mpio.rte 1.0.0.7 # ibm mpio fcp disk device
devices.sddpcm.53.rte 2.1.2.5 # ibm sdd pcm for aix v53
确认安装结果,有4条通路连接主机和存储的逻辑盘。
[app1">[root">[/">>pcmpath query essmap
disk path p location adapter lun sn type size lss vol rank c/a s connection
port raidmode
hdisk3 path0 01-10-01[fc"> fscsi0 75l33510125 ibm 2107-900 65.5gb 1 37 fffb 17
y r1-b1-h3-zc 32 raid5
hdisk3 path1 01-10-01[fc"> fscsi0 75l33510125 ibm 2107-900 65.5gb 1 37 fffb 17
y r1-b1-h3-zc 32 raid5
hdisk3 path2 01-10-01[fc"> fscsi0 75l33510125 ibm 2107-900 65.5gb 1 37 fffb 17
y r1-b1-h3-zc 32 raid5
hdisk3 path3 01-10-01[fc"> fscsi0 75l33510125 ibm 2107-900 65.5gb 1 37 fffb 17
y r1-b1-h3-zc 32 raid5
5.cfgmgr 最终扫描确认
结果:在所有服务器都可看到该磁盘。
以 app3 举例
[app3">[root">[/home/scripts">>lspv
hdisk3 none none
[app3">[root">[/">>pcmpath query essmap
disk path p location adapter lun sn type size lss vol rank c/a s connection
port raidmode
hdisk3 path0 01-10-01[fc"> fscsi0 75l33510125 ibm 2107-900 65.5gb 1 37 fffb 17
y r1-b1-h3-zc 32 raid5
hdisk3 path1 01-10-01[fc"> fscsi0 75l33510125 ibm 2107-900 65.5gb 1 37 fffb 17
y r1-b1-h3-zc 32 raid5
hdisk3 path2 01-10-01[fc"> fscsi0 75l33510125 ibm 2107-900 65.5gb 1 37 fffb 17
y r1-b1-h3-zc 32 raid5
hdisk3 path3 01-10-01[fc"> fscsi0 75l33510125 ibm 2107-900 65.5gb 1 37 fffb 17
y r1-b1-h3-zc 32 raid5
访问配置
修改所有机器的/etc/hosts,将以下行加入,使得机器之间互相能解析主机名。
/etc/hosts
#gpfs start
10.66.3.98 nsd1
10.66.3.99 nsd2
10.66.5.51 app1
10.66.5.52 app2
10.66.5.53 app3
10.66.5.54 app4
#gpfs end
修改所有服务器的/.rhosts,将2个nsd服务器主机名加入
nsd1 root nsd2 root
编写几个 shell 脚本,方便以后安装
1.run_cmd.sh #该脚本可在所以服务器上运行同一条命令。
cat machines.list|awk '{print "rsh "$1" "hostname;$1 $2 $3 $4 $5""}'>/tmp/test.sh
cat /tmp/test.sh
sh /tmp/test.sh $1 $2 $3 $4 $5
rm /tmp/test.sh
2.machines.list #该文件为机器列表,供其他脚本使用,注意不能有空行。
10.66.5.51 app1
10.66.5.52 app2
10.66.5.53 app3
10.66.5.54 app4
如果喜欢gpfs 3.1 for aix 安装配置完全手册 - gpfs请收藏或告诉您的好朋友.
阅读(253) | 评论(0) | 转发(0) |