很久以来,就想写一篇关于ext 家族文件系统的文章,源于我刚工作的时候,曾经一不小心rm -rf,误删除了很多文件,当时真想有个数据恢复软件能帮我把数据回复了。当然学习数据恢复,首先要学习文件系统。最近工作原因,好长时间没看学习Linux kernel 相关的东西,感觉面目可憎。扯远了,开始我们的ext2 文件系统的探索之旅。
那些介绍ext2特征的套话我就不说了,任何一本靠谱的linux教程中都可以找到,我们直接单刀直入,开始探索。
首先生成一个ext2文件系统。我在我磁盘空间有限的Ubuntu中,划出500M的空间来从头学习ext2 文件系统。
dd命令用来创建一个文件,不多说了,通过执行这个dd命令生成了一个全零的大小为512000*1KB的文件,即500MB 的文件。
losetup是设定循环设备(loop service)的,循环设备可以将文件模拟成块设备。然后在块设备上建立我们的ext2文件系统,来进行我们的学习。所以下面用mke2fs命令将loop设备格式化成ext2文件系统。 Oh,yeah,我们终于有了ext2文件系统。
这里需要强调下,我们调用了mke2fs的默认选项其中:
-
root@libin:~# dd if=/dev/zero of=bean bs=1K count=512000
-
记录了512000 0 的读入
-
记录了512000 0 的写出
-
524288000字节(524 MB)已复制,9.40989 秒,55.7 MB/秒
-
root@libin:~# ll bean
-
-rw-r--r-- 1 root root 524288000 2012-07-06 22:24 bean
-
root@libin:~# ll -h bean
-
-rw-r--r-- 1 root root 500M 2012-07-06 22:24 bean
-
root@libin:~#
-
root@libin:~#
-
root@libin:~# losetup /dev/loop0 bean
-
-
root@libin:~# cat /proc/partitions
-
major minor #blocks name
-
-
7 0 512000 loop0
-
8 0 312571224 sda
-
8 1 49182966 sda1
-
.......
-
-
oot@libin:~# mke2fs /dev/loop0
-
mke2fs 1.41.11 (14-Mar-2010)
-
文件系统标签=
-
操作系统:Linux
-
块大小=1024 (log=0)
-
分块大小=1024 (log=0)
-
Stride=0 blocks, Stripe width=0 blocks
-
128016 inodes, 512000 blocks
-
25600 blocks (5.00%) reserved for the super user
-
第一个数据块=1
-
Maximum filesystem blocks=67633152
-
63 block groups
-
8192 blocks per group, 8192 fragments per group
-
2032 inodes per group
-
Superblock backups stored on blocks:
-
8193, 24577, 40961, 57345, 73729, 204801, 221185, 401409
-
-
正在写入inode表: 完成
-
Writing superblocks and filesystem accounting information: 完成
-
-
This filesystem will be automatically checked every 24 mounts or
-
180 days, whichever comes first. Use tune2fs -c or -i to override.
但是这样还没完,我们还是不能访问我们新建的ext2文件系统,因为还没有挂载,我决定将loop 设备挂载在/mnt/bean 目录下。
-
mkdir /mnt/bean
-
mount -t ext2 /dev/loop0 /mnt/bean
-
-
root@libin:/mnt/bean# mount
-
.........
-
/dev/loop0 on /mnt/bean type ext2 (rw)
-
-
root@libin:/mnt/bean# ll
-
总用量 17
-
drwxr-xr-x 3 root root 1024 2012-07-06 22:31 ./
-
drwxr-xr-x 4 root root 4096 2012-07-06 22:32 ../
-
drwx------ 2 root root 12288 2012-07-06 22:31 lost found/
经过我们的努力,我们终于创建好了我们的ext2文件系统。下面需要讲讲ext2文件系统的结构是什么样的了。
下面这张图是经典的ext2文件系统的结构图。网上到处可以找到这种类似的图片,但是我非要画这个图片的原因是为了澄清2个问题:
1 并不是所有的块组都有超级块和快组描述符。
2 块组描述符GDT并不是只管理自己这个块组的信息,相反,它管理的是所有的块组的信息。
(inode表和数据块的个数不一定相等,我这个图画多少有点问题)
我们知道,超级块是很重要的,因为它告诉了linux 这个块设备是怎样组织的,它告诉linux我这个文件系统是什么文件系统,每个块的大小是多大(1024、2048 or 4096),每个块组有多少个块,inode占多少个字节。等等的信息。正是因为超级块很重要,所以我们不能将这些信息只保存1份。试想一下,如果超级块坏掉了,而我们只有一个块组有超级块,那么就彻底完蛋了,后面接近500M的空间及里面的数据我们都没办法获得了。这是比较容易理解的。但是,是不是每个块组都要有启动块呢。这就没必要了,这也有点空间浪费。那到底把超级块放到那些块组呢?
-
Superblock backups stored on blocks:
-
8193, 24577, 40961, 57345, 73729, 204801, 221185, 401409
这是格式化loop设备输出到终端的result信息,因为每个块组是8192个块(原因后面讲),所以第0个块组 ,第1块组,第3个块组 第5个块组,第7个块组,第9个块组,第25个块组,第27个块组,第49个块组存储有超级块。
怎么计算出来的,为什么非要存在这些块组?计算规则是3 5 和7的幂,这样的块组保存超级块。
解释块组描述符之前我们先看下超级块的相关信息:
-
struct ext2_super_block {
-
__u32 s_inodes_count;
-
__u32 s_blocks_count;
-
__u32 s_r_blocks_count;
-
__u32 s_free_blocks_count;
-
__u32 s_free_inodes_count;
-
__u32 s_first_data_block;
-
__u32 s_log_block_size;
-
__u32 s_dummy3[7];
-
unsigned char s_magic[2];
-
__u16 s_state;
-
...
-
-
}
下面我们通过debugfs来获取一下ext2的相关信息。
-
root@libin:/mnt/bean# dumpe2fs /dev/loop0
-
dumpe2fs 1.41.11 (14-Mar-2010)
-
Filesystem volume name: <none>
-
Last mounted on: <not available>
-
Filesystem UUID: 3bff7535-6f39-4720-9b64-1dc8cf9fe61d
-
Filesystem magic number: 0xEF53
-
Filesystem revision #: 1 (dynamic)
-
Filesystem features: ext_attr resize_inode dir_index filetype sparse_super
-
Filesystem flags: signed_directory_hash
-
Default mount options: (none)
-
Filesystem state: not clean
-
Errors behavior: Continue
-
Filesystem OS type: Linux
-
Inode count: 128016
-
Block count: 512000
-
Reserved block count: 25600
-
Free blocks: 493526
-
Free inodes: 128005
-
First block: 1
-
Block size: 1024
-
Fragment size: 1024
-
Reserved GDT blocks: 256
-
Blocks per group: 8192
-
Fragments per group: 8192
-
Inodes per group: 2032
-
Inode blocks per group: 254
-
Filesystem created: Fri Jul 6 22:31:09 2012
-
Last mount time: Fri Jul 6 22:33:28 2012
-
Last write time: Fri Jul 6 22:33:28 2012
-
Mount count: 1
-
Maximum mount count: 24
-
Last checked: Fri Jul 6 22:31:09 2012
-
Check interval: 15552000 (6 months)
-
Next check after: Wed Jan 2 22:31:09 2013
-
Reserved blocks uid: 0 (user root)
-
Reserved blocks gid: 0 (group root)
-
First inode: 11
-
Inode size: 128
-
Default directory hash: half_md4
-
Directory Hash Seed: 0140915d-91ae-43df-9d84-9536cedc0d2b
-
-
Group 0: (Blocks 1-8192)
-
主 superblock at 1, Group descriptors at 2-3
-
保留的GDT块位于 4-259
-
Block bitmap at 260 ( 259), Inode bitmap at 261 ( 260)
-
Inode表位于 262-515 ( 261)
-
7663 free blocks, 2021 free inodes, 2 directories
-
可用块数: 530-8192
-
可用inode数: 12-2032
-
...
-
Group 62: (Blocks 507905-511999)
-
-
Block bitmap at 507905 (+0), Inode bitmap at 507906 (+1)
-
Inode表位于 507907-508160 (+2)
-
3839 free blocks, 2032 free inodes, 0 directories
-
可用块数: 508161-511999
-
可用inode数: 125985-128016
OK ,我们拿到了这些信息,但是,我怎么证明debugfs拿到的信息是对的呢。只有一个办法,我们钻到超级块里面,根据超级块数据结构,获得超级块每个字段的值,听起来很刺激吧,OK,Just DO IT。
-
root@libin:/mnt/bean# dd if=/dev/loop0 bs=1k count=261 |od -tx1 -Ax > /tmp/dump_hex
-
记录了261 0 的读入
-
记录了261 0 的写出
-
267264字节(267 kB)已复制,0.0393023 秒,6.8 MB/秒
-
root@libin:/mnt/bean# vi /tmp/dump_hex
我将整个loop设备前面的261K字节读入了/tmp/dump_hex中。其中第0块是启动块,按下不提。第一块就是说super block。很激动,我们终于可以和传说中的超级块赤裸相见了。
-
000400 10 f4 01 00 00 d0 07 00 00 64 00 00 d6 87 07 00
-
000410 05 f4 01 00 01 00 00 00 00 00 00 00 00 00 00 00
-
000420 00 20 00 00 00 20 00 00 f0 07 00 00 5f cb f7 4f
-
000430 5f cb f7 4f 01 00 1a 00 53 ef 00 00 01 00 00 00
-
000440 25 cb f7 4f 00 4e ed 00 00 00 00 00 01 00 00 00
-
000450 00 00 00 00 0b 00 00 00 80 00 00 00 38 00 00 00
-
000460 02 00 00 00 01 00 00 00 5a 65 4b 92 fe 63 43 eb
-
000470 b6 86 3e f3 6e 44 19 af 00 00 00 00 00 00 00 00
-
000480 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
-
*
-
0004c0 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 01
-
0004d0 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
-
0004e0 00 00 00 00 00 00 00 00 00 00 00 00 f9 6f 16 79
-
0004f0 b7 dc 4f 8a a1 a1 18 82 72 a7 d8 25 01 00 00 00
-
000500 00 00 00 00 00 00 00 00 25 cb f7 4f 00 00 00 00
-
000510 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
-
*
-
000560 01 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
-
000570 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
-
*
-
000800 04 01 00 00 05 01 00 00 06 01 00 00 ef 1d e5 07
最左边一列是地址,16进制。000400=1K,换句话说,就是文件第1K个字节。000800 =2K,这就是我们朝思暮想的超级块啊。我很激动,所以把整个超级块都贴上了,幸好我不是靠字数来骗稿费的人,否则咱得被鄙视死。
再把ext2超级块的数据结构贴上,咱挨个字段比较比较,看看debugfs说的对不?
-
struct ext2_super_block {
-
__u32 s_inodes_count;
-
__u32 s_blocks_count;
-
__u32 s_r_blocks_count;
-
__u32 s_free_blocks_count;
-
__u32 s_free_inodes_count;
-
__u32 s_first_data_block;
-
__u32 s_log_block_size;
-
-
...
-
-
}
第一个字段叫s_inodes_count, 占四个字节。OK,我们看,从1K开始前四个字节是10 f4 01 00。我们知道有little-endian和big-endian。ext2设计者为了支持文件系统的可移动,规定磁盘上一律是little-endian,数据读入内存中时,kernel来负责把格式转成cpu的本机格式。
OK,是little-endian咱就明白了,不就是0x0001f410嘛 。 0x0001f410=128016,看看debugfs给我们的数据,Inode count: 128016,一模一样。
再举个例子,比如,我们关心free_blocks_count,查看数据结构,free_blocks_count字段起始位置是超级块的第12字节。即00040c地址。看下的 d6 87 07 00。计算以下可以得到0x000787d6 = 493526,和debugfs 的Free blocks给出的一样。OK。看管关心什么字段,可以自己查看。通过和超级块赤裸想见,我们知道了ext2 super block的结构。
最后总结一句,不是所有的块组都有超级块,超级块只占1个block块,没错,当blocksize为4K的时候,这个块大多数空间是浪费的。不过还好,毕竟超级块个数有限,浪费不了多少。
下面讲述 块组描述符:
组描述符一共32个字节,大多数的教材都会给我们一组误解,就是每个块组,都要有组描述符。事实上并不是这样。我们知道,一个组描述符只占32字节,而大多数的教材都会告诉我们,一个块组里面的组描述符占k个块,一个组描述符是用不了这么多空间的。
真相只有一个,就是所有的组描述符以数组的形式存放在k个块中。也就是说,某个块组可能没有组描述符,而有组描述符的块组,k个block中存放了所有组块的组描述符。下面我来证实:
-
struct ext2_group_desc
-
{
-
__u32 bg_block_bitmap; /* Blocks bitmap block */
-
__u32 bg_inode_bitmap; /* Inodes bitmap block */
-
__u32 bg_inode_table; /* Inodes table block */
-
__u16 bg_free_blocks_count; /* Free blocks count */
-
__u16 bg_free_inodes_count; /* Free inodes count */
-
__u16 bg_used_dirs_count; /* Directories count */
-
__u16 bg_flags;
-
__u32 bg_exclude_bitmap_lo;/* Exclude bitmap for snapshots */
-
__u16 bg_block_bitmap_csum_lo;/* crc32c(s_uuid+grp_num+bitmap)LSB */
-
__u16 bg_inode_bitmap_csum_lo;/* crc32c(s_uuid+grp_num+bitmap)LSB */
-
__u16 bg_itable_unused; /* Unused inodes count */
-
__u16 bg_checksum; /* crc16(s_uuid+grouo_num+group_desc)*/
-
};
Group 0: (Blocks 1-8192)
主 superblock at 1, Group descriptors at 2-3
保留的GDT块位于 4-259
Block bitmap at 260 (+259), Inode bitmap at 261 (+260)
Inode表位于 262-515 (+261)
7663 free blocks, 2021 free inodes, 2 directories
可用块数: 530-8192
可用inode数: 12-2032
-
Group 1: (Blocks 8193-16384)
-
备份 superblock at 8193, Group descriptors at 8194-8195
-
保留的GDT块位于 8196-8451
-
Block bitmap at 8452 (+259), Inode bitmap at 8453 (+260)
-
Inode表位于 8454-8707 (+261)
-
7677 free blocks, 2032 free inodes, 0 directories
-
可用块数: 8708-16384
-
可用inode数: 2033-4064
-
Group 2: (Blocks 16385-24576)
-
Block bitmap at 16385 (+0), Inode bitmap at 16386 (+1)
-
Inode表位于 16387-16640 (+2)
-
7936 free blocks, 2032 free inodes, 0 directories
-
可用块数: 16641-24576
-
可用inode数: 4065-6096
看上图,debugfs出来的信息,Group 2,并没有所谓的组描述符。而Group1,用8194和8195两个块来存储。OK,我们看下,里面存储的是什么东西。
Group 0里面第2和第3块存储的是组描述符,也就说从0x000800~0x001000是组描述符块的内容。
-
000800 04 01 00 00 05 01 00 00 06 01 00 00 ef 1d e5 07
-
000810 02 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00 块组0的组描述符
-
-----------------------------------------------------------------------
-
000820 04 21 00 00 05 21 00 00 06 21 00 00 fd 1d f0 07
-
000830 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00 块组1的组描述符
-
-----------------------------------------------------------------------
-
000840 01 40 00 00 02 40 00 00 03 40 00 00 00 1f f0 07
-
000850 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00 块组2的组描述符
-
------------------------------------------------------------------------
-
000860 04 61 00 00 05 61 00 00 06 61 00 00 fd 1d f0 07
-
000870 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
000880 01 80 00 00 02 80 00 00 03 80 00 00 00 1f f0 07
-
000890 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
0008a0 04 a1 00 00 05 a1 00 00 06 a1 00 00 fd 1d f0 07
-
0008b0 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
0008c0 01 c0 00 00 02 c0 00 00 03 c0 00 00 00 1f f0 07
-
0008d0 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
0008e0 04 e1 00 00 05 e1 00 00 06 e1 00 00 fd 1d f0 07
-
0008f0 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
000900 01 00 01 00 02 00 01 00 03 00 01 00 00 1f f0 07
-
000910 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
000fb0 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
000fc0 01 c0 07 00 02 c0 07 00 03 c0 07 00 ff 0e f0 07
-
000fd0 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00 块组62的组描述符
-
-----------------------------------------------------------------------
-
000fe0 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
-
-
* 没有块组63
-
----------------------------------------------------------------------
-
001000 04 20 00 00 04 60 00 00 04 a0 00 00 04 e0 00 00
-
04 01 00 00 转换成可读的十进制是0x104=259,表示数据位图位于第259块block。inode位图位于260,和debugfs出来的信息是一样的(不算启动块)。0x1def=7663个空闲数据块....
各位看官可以自己解析任何一个块组的相关信息,可以证明和debugfs出来的块组的信息是一致的。现在我们确定了,组描述符以数组的形式存储在K个快上,对于我们只有63个组块,每个组块需要32个字节,只需要2个1KB的block就足够了。这就是说,其实组描述符和超级块一样,其实是冗余的。也就是说,其他存储组描述符的两个block,信息和块组0中的组描述符的两个block是一样的。下面我来证明。
块组25也有组描述符块,204802和204803两个块,记录了63个块组的组描述符信息。内容应该和前面的块组0的两个块一致。我已经取出了这两个block的内容,大家自己比较吧,结果是内容是一样的。
-
Group 25: (Blocks 204801-212992)
-
备份 superblock at 204801, Group descriptors at 204802-204803
-
保留的GDT块位于 204804-205059
-
Block bitmap at 205060 (+259), Inode bitmap at 205061 (+260)
-
Inode表位于 205062-205315 (+261)
-
7677 free blocks, 2032 free inodes, 0 directories
-
可用块数: 205316-212992
-
可用inode数: 50801-52832
-
root@libin:/mnt/bean# dd if=/dev/loop0 bs=1k skip=204802 count=2|od -tx1 -Ax > /tmp/dump_hex_
-
记录了2+0 的读入
-
记录了2+0 的写出
-
2048字节(2.0 kB)已复制,0.000160205 秒,12.8 MB/秒
-
root@libin:/mnt/bean# vi /tmp/dump_hex_
-
-
-
000000 04 01 00 00 05 01 00 00 06 01 00 00 ef 1d e5 07
-
000010 02 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
000020 04 21 00 00 05 21 00 00 06 21 00 00 fd 1d f0 07
-
000030 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
000040 01 40 00 00 02 40 00 00 03 40 00 00 00 1f f0 07
-
000050 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
000060 04 61 00 00 05 61 00 00 06 61 00 00 fd 1d f0 07
-
000070 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
000080 01 80 00 00 02 80 00 00 03 80 00 00 00 1f f0 07
-
000090 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
0000a0 04 a1 00 00 05 a1 00 00 06 a1 00 00 fd 1d f0 07
-
0000b0 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
....
-
-
0007c0 01 c0 07 00 02 c0 07 00 03 c0 07 00 ff 0e f0 07
-
0007d0 00 00 04 00 00 00 00 00 00 00 00 00 00 00 00 00
-
0007e0 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
-
*
-
000800
最后,最后的最后,解释以下,为什么每个块组中的块数blocks per group 是8192,因为,我们用1个块作为位图保存本块组 block的使用情况(bit为1表示对应的block被使用,bit为0表示对应的block空闲),1个block是1024字节,共有1024*8=8192个bit,所以,每个块组最多只能是81292个块。
同样道理如果用户使用的是4094大小的块,那么,4096*8=32768个bit,所以每个块组会有32K个块。证据在下面。
-
root@libin:/mnt/bean# cd /home
-
root@libin:/home# umount /dev/loop0
-
root@libin:/home# cd /mnt/bean
-
root@libin:/mnt/bean# ll
-
总用量 8
-
drwxr-xr-x 2 root root 4096 2012-07-06 22:32 ./
-
drwxr-xr-x 4 root root 4096 2012-07-06 22:32 ../
-
root@libin:/mnt/bean# mke2fs -b 4096 /dev/loop0
-
mke2fs 1.41.11 (14-Mar-2010)
-
文件系统标签=
-
操作系统:Linux
-
块大小=4096 (log=2)
-
分块大小=4096 (log=2)
-
Stride=0 blocks, Stripe width=0 blocks
-
128000 inodes, 128000 blocks
-
6400 blocks (5.00%) reserved for the super user
-
第一个数据块=0
-
Maximum filesystem blocks=134217728
-
4 block groups
-
32768 blocks per group, 32768 fragments per group
-
32000 inodes per group
-
Superblock backups stored on blocks:
-
32768, 98304
-
-
正在写入inode表: 完成
-
Writing superblocks and filesystem accounting information: 完成
-
-
This filesystem will be automatically checked every 39 mounts or
-
180 days, whichever comes first. Use tune2fs -c or -i to override
参考文献:
1 深入理解linux内核架构
2深入理解linux
3网上一些博文,当时随手关闭了,不能一一列出,向前辈致敬。
阅读(14280) | 评论(9) | 转发(6) |