Chinaunix首页 | 论坛 | 博客
  • 博客访问: 185000
  • 博文数量: 31
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 1124
  • 用 户 组: 普通用户
  • 注册时间: 2013-09-27 10:55
文章存档

2013年(31)

我的朋友

分类: LINUX

2013-10-18 16:11:12

  通常我们在代码中调用fork()来创建一个进程或者调用pthread_create()来创建一个线程,创建一个进程需要为其分配内存资源,文件资源,时间片资源等,在这里来描述一下linux进程的创建过程及写时复制技术。

一写时复制

    子进程和父进程通常拥有着不同的进程内存空间(线程除外),传统的unix在创建子进程后,会复制父进程的地址空间的所有内容,这就十分的低效,因为经常子进程会立即执行exec操作,创建一个崭新的内存空间,另外像进程代码段这样的内存,父子进程只是读,而没有写操作,完全可以共享,而不用去复制,这样会节省大量的时间。
写时复制机制就是在这个背景下产生的,子进程创建后,不会去复制所有的父进程的内存空间物理内存,通常只复制下页全局目录,并把所有父进程的物理页设置为写保护,这样当父子进程中有一个对物理页进行写时,就会触发写保护异常,就复制一下对应的物理页,加入到对应的页表中即可。
二clone(), fork(),vfork()
    fork(),vfork()系统调用都是通过clone()函数来实现的,clone()函数介绍如下:
函数原型:
int clone(int (*fn)(void *), void *child_stack, int flags, void *arg);


    这里fn是函数指针,我们知道进程的4要素,这个就是指向程序的指针,就是所谓的“剧本", child_stack明显是为子进程分配用户态堆栈空间,flags就是标志用来描述你需要从父进程继承那些资源, arg就是传给子进程的参数)。下面是flags可以取的值:


 标志                   含义


 CLONE_PARENT  创建的子进程的父进程是调用者的父进程,新进程与创建它的进程成了“兄弟”而不是“父子”
 CLONE_FS          子进程与父进程共享相同的文件系统,包括root、当前目录、umask
 CLONE_FILES     子进程与父进程共享相同的文件描述符(file descriptor)表
 CLONE_NEWNS  在新的namespace启动子进程,namespace描述了进程的文件hierarchy
 CLONE_SIGHAND  子进程与父进程共享相同的信号处理(signal handler)表
 CLONE_PTRACE  若父进程被trace,子进程也被trace
 CLONE_VFORK    父进程被挂起,直至子进程释放虚拟内存资源
 CLONE_VM          子进程与父进程运行于相同的内存空间
 CLONE_PID         子进程在创建时PID与父进程一致
 CLONE_THREAD   Linux 2.4中增加以支持POSIX线程标准,子进程与父进程共享相同的线程群


下面的例子是创建一个线程(子进程共享了父进程虚存空间,没有自己独立的虚存空间不能称其为进程)。父进程被挂起当子线程释放虚存资源后再继续执行。


实现clone()系统调用的服务例程是sys_clone(),sys_clone()例程并没有fn和arg参数,clone()函数会把fn放在子进程堆栈的某个位置,该位置就是封装函数本身返回地址的存放位置,arg指针放在fn堆栈的下面,当封装函数结束时,cpu取出fn,执行fn(arg).
与系统调用clone功能相似的系统调用有fork,但fork事实上只是clone的功能的一部分,clone与fork的主要区别在于传递了几个参数,而当中最重要的参数就是conle_flags,下表是系统定义的几个clone_flags标志,同时child_stack传递的也是父进程的用户态堆栈,由于写时复制,会在父子进程对堆栈进行操作时进行复制。
标志 Value 含义
CLONE_VM 0x00000100 置起此标志在进程间共享地址空间
CLONE_FS 0x00000200 置起此标志在进程间共享文件系统信息
CLONE_FILES 0x00000400 置起此标志在进程间共享打开的文件
CLONE_SIGHAND 0x00000800 置起此标志在进程间共享信号处理程序


三sys_clone()服务例程源码解析

fork(),vfork(),clone()三个系统调用最后都是使用sys_clone()服务例程来完成了系统调用,sys_clone()服务例程会去调用do_fork()函数,主要的处理流程就在do_fork()中。

3.1do_fork()


  1. long do_fork(unsigned long clone_flags,  
  2.           unsigned long stack_start,  
  3.           struct pt_regs *regs,  
  4.           unsigned long stack_size,  
  5.           int __user *parent_tidptr,  
  6.           int __user *child_tidptr)  
  7. {  
  8.     struct task_struct *p;  
  9.     int trace = 0;  
  10.     //查看pidmap_array查找新进程的pid  
  11.     long pid = alloc_pidmap();  
  12.     //查看当前进程是否被trace,设置新进程的trace状态,只要进程不是内核线程就应该被trace  
  13.     if (unlikely(current->ptrace)) {  
  14.         trace = fork_traceflag (clone_flags);  
  15.         if (trace)  
  16.             clone_flags |= CLONE_PTRACE;  
  17.     }  
  18.    //将父进程的相关信息,如地址空间,信号等信息复制到新建进程描述符上面  
  19.     p = copy_process(clone_flags, stack_start, regs, stack_size, parent_tidptr, child_tidptr, pid);  
  20.     if (!IS_ERR(p)) {  
  21.         struct completion vfork;  
  22.         //如果该进程是vfork出来的,需要等待子进程结束或退出后再执行父进程  
  23.         if (clone_flags & CLONE_VFORK) {  
  24.             p->vfork_done = &vfork;  
  25.             init_completion(&vfork);      
  26.         }  
  27.         //如果该进程被追踪,或者设置了clone_stopped标记,给该进程发送STOP信号,   设置了CLONE_STOPPED标记的话,进程不能够立即执行,需要先stop下来,后面通过   
  28.     向该进程发送SIG_CONT信号使其恢复执行  
  29.         if ((p->ptrace & PT_PTRACED) || (clone_flags & CLONE_STOPPED)) {  
  30.             sigaddset(&p->pending.signal, SIGSTOP);  
  31.             set_tsk_thread_flag(p, TIF_SIGPENDING);  
  32.         }  
  33.         //未设置clone_stopped标记,唤醒新进程,此后新进程可以参与调度  
  34.         if (!(clone_flags & CLONE_STOPPED))  
  35.             wake_up_new_task(p, clone_flags);  
  36.         else  
  37.             p->state = TASK_STOPPED;  
  38.         ++total_forks;  
  39.         //需要trace的话,向debug进程发送一个trace消息  
  40.         if (unlikely (trace)) {  
  41.             current->ptrace_message = pid;  
  42.             ptrace_notify ((trace << 8) | SIGTRAP);  
  43.         }  
  44.         //如果该进程是被vfork()出来的,父进程在此等待,等待子进程退出  
  45.         if (clone_flags & CLONE_VFORK) {  
  46.             wait_for_completion(&vfork);  
  47.             if (unlikely (current->ptrace & PT_TRACE_VFORK_DONE))  
  48.                 ptrace_notify ((PTRACE_EVENT_VFORK_DONE << 8) | SIGTRAP);  
  49.         }  
  50.     } else {  
  51.         free_pidmap(pid);  
  52.         pid = PTR_ERR(p);  
  53.     }  
  54.     return pid;  
  55. }  

3.2copy_process()



  1. static task_t *copy_process(unsigned long clone_flags,  
  2.                  unsigned long stack_start,  
  3.                  struct pt_regs *regs,  
  4.                  unsigned long stack_size,  
  5.                  int __user *parent_tidptr,  
  6.                  int __user *child_tidptr,  
  7.                  int pid)  
  8. {  
  9.     int retval;  
  10.     struct task_struct *p = NULL;  
  11.   
  12.     if ((clone_flags & (CLONE_NEWNS|CLONE_FS)) == (CLONE_NEWNS|CLONE_FS))  
  13.         return ERR_PTR(-EINVAL);  
  14.   
  15.     //clone出一个线程,线程必须共享信号处理函数等  
  16.     if ((clone_flags & CLONE_THREAD) && !(clone_flags & CLONE_SIGHAND))  
  17.         return ERR_PTR(-EINVAL);  
  18.   
  19.     //共享信号处理,但不共享地址空间,clone_sighand表示子进程和父进程共享信号处理函数表,共享阻塞信号表以及挂起信号表  
  20.     if ((clone_flags & CLONE_SIGHAND) && !(clone_flags & CLONE_VM))  
  21.         return ERR_PTR(-EINVAL);  
  22.      
  23.     if (retval)  
  24.         goto fork_out;  
  25.     retval = -ENOMEM;  
  26.     //复制当前进程进程描述符 ,实质的工作就是把当前进程的task_struct, thread_info都复制到了子进程里面,在该函数里面也会分配进程描述符  
  27.     p = dup_task_struct(current);         
  28.     if (!p)  
  29.         goto fork_out;  
  30.     retval = -EAGAIN;  
  31.      //检查是否进程数符合进程资源限制这个时候p->user其实和父进程中的p->user是一样的,因为在dup_task_struct里面对父进程的描述符进行了复制  
  32.     if (atomic_read(&p->user->processes) >=  
  33.             p->signal->rlim[RLIMIT_NPROC].rlim_cur) {  
  34.         if (!capable(CAP_SYS_ADMIN) && !capable(CAP_SYS_RESOURCE) &&  
  35.                 p->user != &root_user)  
  36.             goto bad_fork_free;  
  37.     }  
  38.     //增加统计信息和进程所属用户的引用计数  
  39.     atomic_inc(&p->user->__count);  
  40.     atomic_inc(&p->user->processes);  
  41.   
  42.      //检查线程数是否超出了限制  
  43.     if (nr_threads >= max_threads)  
  44.         goto bad_fork_cleanup_count;  
  45.      //新进程尚未调用exec  
  46.     p->did_exec = 0;  
  47.      //设置新进程的flag,主要是去除PF_SUPERPRIV,设置PF_FORKNOEXEC,根据clone_falgs设置task的trace字段  
  48.     copy_flags(clone_flags, p);  
  49.     p->pid = pid;  
  50.     retval = -EFAULT;  
  51.     if (clone_flags & CLONE_PARENT_SETTID)  
  52.         if (put_user(p->pid, parent_tidptr))  
  53.             goto bad_fork_cleanup;  
  54.   
  55.     p->proc_dentry = NULL;  
  56.     //初始化进程的子进程链表和挂入兄弟链表的节点   
  57.     INIT_LIST_HEAD(&p->children);  
  58.     INIT_LIST_HEAD(&p->sibling);  
  59.     //初始化等待队列,在系统调用vfork()中会使用到  
  60.     init_waitqueue_head(&p->wait_chldexit);  
  61.     p->vfork_done = NULL;  
  62.     spin_lock_init(&p->alloc_lock);  
  63.     spin_lock_init(&p->proc_lock);  
  64.   
  65.     //为新进程清除掉有信号挂起的标记位,表明该进程现在没有信号尚未处理  
  66.     clear_tsk_thread_flag(p, TIF_SIGPENDING);  
  67.     //清除掉新进程的挂起信号表,初始化相应的信号队列,从这里的代码看来,父进程未处理完毕的信号不会遗传给子进程,oh,yeah!  
  68.     init_sigpending(&p->pending);  
  69.     : //跳过了很多代码,这些代码我们不关注,不影响对主体流程的理解  
  70.     :  
  71.     :  
  72.     //设置新进程的tgid,若该新进程是一个轻量级进程即线程的话,设置其tgid为父进程的tgid,否则其tgid和其pid是一样的  
  73.     p->tgid = p->pid;  
  74.     if (clone_flags & CLONE_THREAD)  
  75.         p->tgid = current->tgid;  
  76.        
  77.     //下面主要是根据clone_flags的标志来决定子进程是否来共用内存描述符,文件描述符等,信号处理函数,信号及阻塞码等,copy_thread()则会为新的子进程内核栈复制父进程内核栈的寄存器信息,设置进程描述符中thread中的相关寄存器信息,为后续的进程切换做好准备,3.3介绍了copy_thread()函数。  
  78.     if ((retval = copy_files(clone_flags, p)))  
  79.         goto bad_fork_cleanup_semundo;  
  80.     if ((retval = copy_fs(clone_flags, p)))  
  81.         goto bad_fork_cleanup_files;  
  82.     if ((retval = copy_sighand(clone_flags, p)))  
  83.         goto bad_fork_cleanup_fs;  
  84.     if ((retval = copy_signal(clone_flags, p)))  
  85.         goto bad_fork_cleanup_sighand;  
  86.     if ((retval = copy_mm(clone_flags, p)))  
  87.         goto bad_fork_cleanup_signal;  
  88.     if ((retval = copy_keys(clone_flags, p)))  
  89.         goto bad_fork_cleanup_mm;  
  90.     if ((retval = copy_namespace(clone_flags, p)))  
  91.         goto bad_fork_cleanup_keys;  
  92.     retval = copy_thread(0, clone_flags, stack_start, stack_size, p, regs);  
  93.     if (retval)  
  94.         goto bad_fork_cleanup_namespace;  
  95.   
  96.      //清除掉p->thread的TIF_SYSCALL_TRACE的标志位,以使ret_from_fork不会把系统调用结束的消息发送给trace进程  
  97.     clear_tsk_thread_flag(p, TIF_SYSCALL_TRACE);  
  98.     //设置exit  signal,对于线程组来说,只有线程组的最后一个线程退出,整个线程组才退出,并向线程组的父进程发送child信号,exit_signal其实主要是用来表明该进程是否是线程组首进程:exit_signal!=-1  
  99.     p->exit_signal = (clone_flags & CLONE_THREAD) ? -1 : (clone_flags & CSIGNAL);  
  100.     p->pdeath_signal = 0;  
  101.     p->exit_state = 0;  
  102.   
  103.     //给新进程分配时间片,分配的额度是父进程的一半,同时禁止内核抢占  
  104.     sched_fork(p);  
  105.   
  106.     //设置进程的组长进程就是自己,这里的组长进程是指线程组的组长进程,在后面的处理中会把对轻量级进程的组长进程设为真正的线程组组长进程  
  107.     p->group_leader = p;  
  108.     INIT_LIST_HEAD(&p->ptrace_children);  
  109.     INIT_LIST_HEAD(&p->ptrace_list);  
  110.     /* Need tasklist lock for parent etc handling! */  
  111.     write_lock_irq(&tasklist_lock);  
  112.   
  113.     //子进程继承父进程的cpus_allowed字段,cpus_allowed字段指明进程可以在哪些cpu上运行  
  114.     p->cpus_allowed = current->cpus_allowed;  
  115.     //设置子进程的thread->cpu,当前正在执行sys_clone()服务例程的cpu  
  116.     set_task_cpu(p, smp_processor_id());  
  117.     if (sigismember(¤t->pending.signal, SIGKILL)) {  
  118.         write_unlock_irq(&tasklist_lock);  
  119.         retval = -EINTR;  
  120.         goto bad_fork_cleanup_namespace;  
  121.     }  
  122.   
  123.     //对于轻量级线程而言,新建子进程的parent,real_parent进程是父进程的父进程,即线程的父进程是fork()出线程组组长进程的进程  
  124.     if (clone_flags & (CLONE_PARENT|CLONE_THREAD))  
  125.         p->real_parent = current->real_parent;  
  126.     else  
  127.         p->real_parent = current;  
  128.     p->parent = p->real_parent;  
  129.   
  130.     if (clone_flags & CLONE_THREAD) {  
  131.         spin_lock(¤t->sighand->siglock);  
  132.         //对于线程而言,其线程组长进程就是其父进程的组长进程  
  133.         p->group_leader = current->group_leader;  
  134.         spin_unlock(¤t->sighand->siglock);  
  135.     }  
  136.     //把新进程插入到进程列表中,是组长进程,才插入到全局的进程链表,即以init_task为进程链表头的链表,但还是会把该进程放入到PIDTYPE的hash表中  
  137.     SET_LINKS(p);  
  138.    //如果进程必须被追踪,将该进程放入current的父进程即调试进程的跟踪列表中,同时子进程的父进程也被设置为调试进程   
  139.     if (unlikely(p->ptrace & PT_PTRACED))  
  140.         __ptrace_link(p, current->parent);  
  141.     //将进程插入到PIDTYPE_PID的hash表中  
  142.     attach_pid(p, PIDTYPE_PID, p->pid);  
  143.     //将进程插入到PIDTYPE_TGID的hash标中  
  144.     attach_pid(p, PIDTYPE_TGID, p->tgid);  
  145.     //该进程为线程组组长进程  
  146.     if (thread_group_leader(p)) {  
  147.         //将该进程插入到PIDTYPE_PGID hash表中  
  148.         attach_pid(p, PIDTYPE_PGID, process_group(p));  
  149.         //将该进程插入到PIDTYPE_SID hash表中  
  150.         attach_pid(p, PIDTYPE_SID, p->signal->session);  
  151.         if (p->pid)  
  152.             __get_cpu_var(process_counts)++;  
  153.     }  
  154.   
  155.     nr_threads++;  
  156.     write_unlock_irq(&tasklist_lock);  
  157.     retval = 0;  
  158.     :  
  159.     :  
  160. }  

3.3copy_thread



  1. int copy_thread(int nr, unsigned long clone_flags, unsigned long esp,  
  2.     unsigned long unused,  
  3.     struct task_struct * p, struct pt_regs * regs)  
  4. {  
  5.     struct pt_regs * childregs;  
  6.     struct task_struct *tsk;  
  7.     int err;  
  8.   
  9.     //得到子进程内核栈的栈底  
  10.     childregs = ((struct pt_regs *) (THREAD_SIZE + (unsigned long) p->thread_info)) - 1;  
  11.     //将保存在父进程内核栈中的寄存器内容复制到子进程的内核栈   
  12.     *childregs = *regs;  
  13.     //将子进程的eax寄存器值设为0,eax表示返回值  
  14.     childregs->eax = 0;  
  15.     //childregs->esp中存放的是子进程用户态的栈地址  
  16.     childregs->esp = esp;  
  17.   
  18.     //thread.esp存放的是内核态的栈顶地址  
  19.     p->thread.esp = (unsigned long) childregs;  
  20.     p->thread.esp0 = (unsigned long) (childregs+1);  
  21.     //thread.eip存放的是内核态的返回地址  
  22.     p->thread.eip = (unsigned long) ret_from_fork;  
  23.   
  24.     savesegment(fs,p->thread.fs);  
  25.     savesegment(gs,p->thread.gs);  
  26.   
  27.     tsk = current;  
  28.     //copy父进程的io权限位图  
  29.     if (unlikely(NULL != tsk->thread.io_bitmap_ptr)) {  
  30.         p->thread.io_bitmap_ptr = kmalloc(IO_BITMAP_BYTES, GFP_KERNEL);  
  31.         if (!p->thread.io_bitmap_ptr) {  
  32.             p->thread.io_bitmap_max = 0;  
  33.             return -ENOMEM;  
  34.         }  
  35.         memcpy(p->thread.io_bitmap_ptr, tsk->thread.io_bitmap_ptr,  
  36.             IO_BITMAP_BYTES);  
  37.     }  
  38.     :  
  39.     :  
  40.     return err;  
  41. }  

四do_fork()之后发生了什么
现在我们有了完整的可以运行的进程,但还有对其进行调度,在以后的进程切换时,会对其进行完善,将子进程描述符中thread字段的值放入几个寄存器中,主要是将thread.esp放入esp寄存器中,把ret_from_fork()函数的地址放入到eip寄存器中,(参看上面的copy_thread函数)然后进程切换后会去执行ret_from_fork()函数,ret_form_fork()回去调用schedule_tail()函数,用存放在内核栈中的值装载所有的寄存器,并强迫cpu返回用户态。系统调用的返回值存放在了eax中,返回给子进程的是0,父进程的是子进程的id号。
阅读(1856) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~