Chinaunix首页 | 论坛 | 博客
  • 博客访问: 657541
  • 博文数量: 171
  • 博客积分: 2246
  • 博客等级: 大尉
  • 技术积分: 1574
  • 用 户 组: 普通用户
  • 注册时间: 2012-05-31 11:45
文章分类

全部博文(171)

文章存档

2018年(3)

2017年(4)

2015年(1)

2014年(20)

2013年(57)

2012年(86)

分类: C/C++

2012-09-06 10:27:34

1、 管道概述及相关API应用

1.1 管道相关的关键概念

管道是Linux 支持的最初Unix IPC形式之一,具有以下特点:

    管道是半双工的,数据只能向一个方向流动;需要双方通信时,需要建立起两个管道;
    只能用于父子进程或者兄弟进程之间(具有亲缘关系的进程);
    单独构成一种独立的文件系统:管道对于管道两端的进程而言,就是一个文件,但它不是普通的文件,它不属于某种文件系统,而是自立门户,单独构成一种文件系统,并且只存在与内存中。
    数据的读出和写入:一个进程向管道中写的内容被管道另一端的进程读出。写入的内容每次都添加在管道缓冲区的末尾,并且每次都是从缓冲区的头部读出数据。

1.2管道的创建:

  1. #include <unistd.h>
  2. int pipe(int fd[2])

该函数创建的管道的两端处于一个进程中间,在实际应用中没有太大意义,因此,一个进程在由pipe()创建管道后,一般再fork一个子进程,然后通过管道实现父子进程间的通信(因此也不难推出,只要两个进程中存在亲缘关系,这里的亲缘关系指的是具有共同的祖先,都可以采用管道方式来进行通信)。

1.3管道的读写规则:

管道两端可分别用描述字fd[0]以及fd[1]来描述,需要注意的是,管道的两端是固定了任务的。即一端只能用于读,由描述字fd[0]表示,称其为管道读端;另一端则只能用于写,由描述字fd[1]来表示,称其为管道写端。如果试图从管道写端读取数据,或者向管道读端写入数据都将导致错误发生。一般文件的I/O函数都可以用于管道,如close、read、write等等。

从管道中读取数据:

    如果管道的写端不存在,则认为已经读到了数据的末尾,读函数返回的读出字节数为0;
    当管道的写端存在时,如果请求的字节数目大于PIPE_BUF,则返回管道中现有的数据字节数,如果请求的字节数目不大于PIPE_BUF,则返回管道中现有数据字节数(此时,管道中数据量小于请求的数据量);或者返回请求的字节数(此时,管道中数据量不小于请求的数据量)。注:(PIPE_BUF在 include/linux/limits.h中定义,不同的内核版本可能会有所不同。Posix.1要求PIPE_BUF至少为512字节,red hat 7.2中为4096)。

关于管道的读规则验证:

  1. /**************

  2. * readtest.c *

  3. **************/
  4. #include <unistd.h>
  5. #include <sys/types.h>
  6. #include <errno.h>
  7. main()
  8. {
  9. int pipe_fd[2];
  10. pid_t pid;
  11. char r_buf[100];
  12. char w_buf[4];
  13. char* p_wbuf;
  14. int r_num;
  15. int cmd;
  16. memset(r_buf,0,sizeof(r_buf));
  17. memset(w_buf,0,sizeof(r_buf));
  18. p_wbuf=w_buf;

  19. if(pipe(pipe_fd)<0)
  20. {
  21. printf("pipe create error ");
  22. return -1;
  23. }

  24. if((pid=fork())==0)
  25. {
  26. printf(" ");
  27. close(pipe_fd[1]);
  28. sleep(3);//确保父进程关闭写端
  29. r_num=read(pipe_fd[0],r_buf,100);
  30. printf( "read num is %d the data read from the pipe is %d ",r_num,atoi(r_buf));
  31. close(pipe_fd[0]);
  32. exit();
  33. }
  34. else if(pid>0)
  35. {
  36. close(pipe_fd[0]);//read
  37. strcpy(w_buf,"111");
  38. if(write(pipe_fd[1],w_buf,4)!=-1)
  39. printf("parent write over ");
  40. close(pipe_fd[1]);//write
  41. printf("parent close fd[1] over ");
  42. sleep(10);
  43. }

  44. }

  45. /**************************************************
  46. * 程序输出结果:
  47. * parent write over
  48. * parent close fd[1] over
  49. * read num is 4 the data read from the pipe is 111
  50. * 附加结论:
  51. * 管道写端关闭后,写入的数据将一直存在,直到读出为止.
  52. ****************************************************/

向管道中写入数据:

    向管道中写入数据时,linux将不保证写入的原子性,管道缓冲区一有空闲区域,写进程就会试图向管道写入数据。如果读进程不读走管道缓冲区中的数据,那么写操作将一直阻塞。
    注:只有在管道的读端存在时,向管道中写入数据才有意义。否则,向管道中写入数据的进程将收到内核传来的SIFPIPE信号,应用程序可以处理该信号,也可以忽略(默认动作则是应用程序终止)。

对管道的写规则的验证1:写端对读端存在的依赖性

  1. #include <unistd.h>
  2. #include <sys/types.h>
  3. main()
  4. {
  5. int pipe_fd[2];
  6. pid_t pid;
  7. char r_buf[4];
  8. char* w_buf;
  9. int writenum;
  10. int cmd;
  11. memset(r_buf,0,sizeof(r_buf));
  12. if(pipe(pipe_fd)<0)
  13. {
  14. printf("pipe create error ");
  15. return -1;
  16. }
  17. if((pid=fork())==0)
  18. {
  19. close(pipe_fd[0]);
  20. close(pipe_fd[1]);
  21. sleep(10);
  22. exit();
  23. }
  24. else if(pid>0)
  25. {
  26. sleep(1); //等待子进程完成关闭读端的操作
  27. close(pipe_fd[0]);//write
  28. w_buf="111";
  29. if((writenum=write(pipe_fd[1],w_buf,4))==-1)
  30. printf("write to pipe error ");
  31. else
  32. printf("the bytes write to pipe is %d ", writenum);
  33. close(pipe_fd[1]);
  34. }
  35. }

则输出结果为: Broken pipe,原因就是该管道以及它的所有fork()产物的读端都已经被关闭。如果在父进程中保留读端,即在写完pipe后,再关闭父进程的读端,也会正常写入pipe,读者可自己验证一下该结论。因此,在向管道写入数据时,至少应该存在某一个进程,其中管道读端没有被关闭,否则就会出现上述错误(管道断裂,进程收到了SIGPIPE信号,默认动作是进程终止)

对管道的写规则的验证2:linux不保证写管道的原子性验证

  1. #include <unistd.h>

  2. #include <sys/types.h>

  3. #include <errno.h>

  4. main(int argc,char**argv)
  5. {
  6. int pipe_fd[2];

  7. pid_t pid;

  8. char r_buf[4096];

  9. char w_buf[4096*2];

  10. int writenum;

  11. int rnum;

  12. memset(r_buf,0,sizeof(r_buf));

  13. if(pipe(pipe_fd)<0)

  14. {

  15. printf("pipe create error ");

  16. return -1;

  17. }

  18. if((pid=fork())==0)

  19. {

  20. close(pipe_fd[1]);

  21. while(1)

  22. {

  23. sleep(1);

  24. rnum=read(pipe_fd[0],r_buf,1000);

  25. printf("child: readnum is %d ",rnum);

  26. }

  27. close(pipe_fd[0]);

  28. exit();

  29. }

  30. else if(pid>0)

  31. {

  32. close(pipe_fd[0]);//write

  33. memset(r_buf,0,sizeof(r_buf));

  34. if((writenum=write(pipe_fd[1],w_buf,1024))==-1)

  35. printf("write to pipe error ");

  36. else

  37. printf("the bytes write to pipe is %d ", writenum);

  38. writenum=write(pipe_fd[1],w_buf,4096);

  39. close(pipe_fd[1]);

  40. }

  41. }

  42. 输出结果:

  43. the bytes write to pipe 1000

  44. the bytes write to pipe 1000 //注意,此行输出说明了写入的非原子性

  45. the bytes write to pipe 1000

  46. the bytes write to pipe 1000

  47. the bytes write to pipe 1000

  48. the bytes write to pipe 120 //注意,此行输出说明了写入的非原子性

  49. the bytes write to pipe 0

  50. the bytes write to pipe 0

  51. ......

结论:

写入数目小于4096时写入是非原子的!
如果把父进程中的两次写入字节数都改为5000,则很容易得出下面结论:
写入管道的数据量大于4096字节时,缓冲区的空闲空间将被写入数据(补齐),直到写完所有数据为止,如果没有进程读数据,则一直阻塞。

1.4管道应用实例:

实例一:用于shell

管道可用于输入输出重定向,它将一个命令的输出直接定向到另一个命令的输入。比如,当在某个shell程序(Bourne shell或C shell等)键入who│wc -l后,相应shell程序将创建who以及wc两个进程和这两个进程间的管道。考虑下面的命令行:

$kill -l 运行结果见 附一。

$kill -l | grep SIGRTMIN 运行结果如下:

30) SIGPWR 31) SIGSYS 32) SIGRTMIN 33) SIGRTMIN+1

34) SIGRTMIN+2 35) SIGRTMIN+3 36) SIGRTMIN+4 37) SIGRTMIN+5

38) SIGRTMIN+6 39) SIGRTMIN+7 40) SIGRTMIN+8 41) SIGRTMIN+9

42) SIGRTMIN+10 43) SIGRTMIN+11 44) SIGRTMIN+12 45) SIGRTMIN+13

46) SIGRTMIN+14 47) SIGRTMIN+15 48) SIGRTMAX-15 49) SIGRTMAX-14

实例二:用于具有亲缘关系的进程间通信

下面例子给出了管道的具体应用,父进程通过管道发送一些命令给子进程,子进程解析命令,并根据命令作相应处理。

#include

#include

main()

{

int pipe_fd[2];

pid_t pid;

char r_buf[4];

char** w_buf[256];

int childexit=0;

int i;

int cmd;

memset(r_buf,0,sizeof(r_buf));

if(pipe(pipe_fd)<0)

{

printf("pipe create error ");

return -1;

}

if((pid=fork())==0)

//子进程:解析从管道中获取的命令,并作相应的处理

{

printf(" ");

close(pipe_fd[1]);

sleep(2);

while(!childexit)

{

read(pipe_fd[0],r_buf,4);

cmd=atoi(r_buf);

if(cmd==0)

{

printf("child: receive command from parent over now child process exit ");

childexit=1;

}

else if(handle_cmd(cmd)!=0)

return;

sleep(1);

}

close(pipe_fd[0]);

exit();

}

else if(pid>0)

//parent: send commands to child

{

close(pipe_fd[0]);

w_buf[0]="003";

w_buf[1]="005";

w_buf[2]="777";

w_buf[3]="000";

for(i=0;i<4;i++)

write(pipe_fd[1],w_buf[i],4);

close(pipe_fd[1]);

}

}

//下面是子进程的命令处理函数(特定于应用):

int handle_cmd(int cmd)

{

if((cmd<0)||(cmd>256))

//suppose child only support 256 commands

{

printf("child: invalid command ");

return -1;

}

printf("child: the cmd from parent is %d ", cmd);

return 0;

}

1.5管道的局限性

管道的主要局限性正体现在它的特点上:

    只支持单向数据流;
    只能用于具有亲缘关系的进程之间;
    没有名字;
    管道的缓冲区是有限的(管道制存在于内存中,在管道创建时,为缓冲区分配一个页面大小);

管道所传送的是无格式字节流,这就要求管道的读出方和写入方必须事先约定好数据的格式,比如多少字节算作一个消息(或命令、或记录)等等;

Linux管道的实现机制

在Linux中,管道是一种使用非常频繁的通信机制。从本质上说,管道也是一种文件,但它又和一般的文件有所不同,管道可以克服使用文件进行通信的两个问题,具体表现为:

限制管道的大小。实际上,管道是一个固定大小的缓冲区。在Linux中,该缓冲区的大小为1页,即4K字节,使得它的大小不象文件那样不加检验地增长。使用单个固定缓冲区也会带来问题,比如在写管道时可能变满,当这种情况发生时,随后对管道的write()调用将默认地被阻塞,等待某些数据被读取,以便腾出足够的空间供write()调用写。

读取进程也可能工作得比写进程快。当所有当前进程数据已被读取时,管道变空。当这种情况发生时,一个随后的read()调用将默认地被阻塞,等待某些数据被写入,这解决了read()调用返回文件结束的问题。

注意:从管道读数据是一次性操作,数据一旦被读,它就从管道中被抛弃,释放空间以便写更多的数据。

1. 管道的结构

在 Linux 中,管道的实现并没有使用专门的数据结构,而是借助了文件系统的file结构和VFS的索引节点inode。通过将两个 file 结构指向同一个临时的 VFS 索引节点,而这个 VFS 索引节点又指向一个物理页面而实现的。如图 7.1所示。

图7.1 管道结构示意图


图7.1中有两个 file 数据结构,但它们定义文件操作例程地址是不同的,其中一个是向管道中写入数据的例程地址,而另一个是从管道中读出数据的例程地址。这样,用户程序的系统调用仍然是通常的文件操作,而内核却利用这种抽象机制实现了管道这一特殊操作。

2.管道的读写

管道实现的源代码在fs/pipe.c中,在pipe.c中有很多函数,其中有两个函数比较重要,即管道读函数pipe_read()和管道写函数 pipe_wrtie()。管道写函数通过将字节复制到 VFS 索引节点指向的物理内存而写入数据,而管道读函数则通过复制物理内存中的字节而读出数据。当然,内核必须利用一定的机制同步对管道的访问,为此,内核使用了锁、等待队列和信号。

当写进程向管道中写入时,它利用标准的库函数write(),系统根据库函数传递的文件描述符,可找到该文件的 file 结构。file 结构中指定了用来进行写操作的函数(即写入函数)地址,于是,内核调用该函数完成写操作。写入函数在向内存中写入数据之前,必须首先检查 VFS 索引节点中的信息,同时满足如下条件时,才能进行实际的内存复制工作:

内存中有足够的空间可容纳所有要写入的数据;

内存没有被读程序锁定。

如果同时满足上述条件,写入函数首先锁定内存,然后从写进程的地址空间中复制数据到内存。否则,写入进程就休眠在 VFS 索引节点的等待队列中,接下来,内核将调用调度程序,而调度程序会选择其他进程运行。写入进程实际处于可中断的等待状态,当内存中有足够的空间可以容纳写入数据,或内存被解锁时,读取进程会唤醒写入进程,这时,写入进程将接收到信号。当数据写入内存之后,内存被解锁,而所有休眠在索引节点的读取进程会被唤醒。

管道的读取过程和写入过程类似。但是,进程可以在没有数据或内存被锁定时立即返回错误信息,而不是阻塞该进程,这依赖于文件或管道的打开模式。反之,进程可以休眠在索引节点的等待队列中等待写入进程写入数据。当所有的进程完成了管道操作之后,管道的索引节点被丢弃,而共享数据页也被释放。

因为管道的实现涉及很多文件的操作,因此,当读者学完有关文件系统的内容后来读pipe.c中的代码,你会觉得并不难理解。

作者“yong7181000”

FROM:

阅读(377) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~