Chinaunix首页 | 论坛 | 博客

Jack王少的ChinaUnix博客

首页　| 　博文目录　| 　关于我

Jack王少

  • 博客访问： 14148
  • 博文数量： 14
  • 博客积分： 0
  • 博客等级： 民兵
  • 技术积分： 10
  • 用 户 组： 普通用户
  • 注册时间： 2013-08-11 11:31
文章分类

全部博文（14）

文章存档

2013年（14）

我的朋友
最近访客
推荐博文
相关博文
Linux内核源码分析--内核启动之(3)Image内核启动(C语言部分)（Linux-3.0 ARMv7）

分类： LINUX

2013-08-11 11:37:53

原文地址：Linux内核源码分析--内核启动之(3)Image内核启动(C语言部分)（Linux-3.0 ARMv7） 作者：tekkamanninja

  在构架相关的汇编代码运行完之后，程序跳入了构架无关的内核C语言代码：init/main.c中的start_kernel函数，在这个函数中Linux内核开始真正进入初始化阶段，

   下面我就顺这代码逐个函数的解释，但是这里并不会过于深入每个函数，因为这样就会只见树木，不见森林。分析代码首先要从构架上宏观地理解，然后再去考虑细节问题（这和小时候学语文要概括中心思想和段落大意是一个道理）。今后对于每个子系统的初始化，特别是内存子系统，有空都会分析一遍。

  1. asmlinkage void __init start_kernel(void)
  2. {
  3.     char * command_line;
  4.     extern const struct kernel_param __start___param[], __stop___param[];

  5. 点击(此处)折叠或打开

    1. 这里关键是这两个变量的地址是如何确定的。
    2. 这两个变量为地址指针，指向内核启动参数处理相关结构体段在内存中的位置（虚拟地址）。
    3. 这里是外部变量，定义的位置在arch/../../vmlinux.lds.S，而大多数平台是放到kernel\include\asm-generic\vmlinux.lds.h中，定义如下：

    4. 点击(此处)折叠或打开

      2. 362     /* 内建模块的参数处理段. */               \
      3. 363     __param : AT(ADDR(__param) - LOAD_OFFSET) {         \                                                                                                                    
      4. 364         VMLINUX_SYMBOL(__start___param) = .;            \                           
      5. 365         *(__param)                      \
      6. 366         VMLINUX_SYMBOL(__stop___param) = .;         \                               
      7. 367     } 
    5. 对于ARM平台，似乎位于 kernel\include\asm-generic\vmlinux.lds.h
    7. 这个段中数据的数据结构：
    8. kernel_param结构体的定义是：

    点击(此处)折叠或打开

    1. 36 struct kernel_param_ops {
    2.  37      /* Returns 0, or -errno. arg is in kp->arg. */
    3.  38      int (*set)(const char *val, const struct kernel_param *kp);
    4.  39      /* Returns length written or -errno. Buffer is 4k (ie. be */
    5.  40      int (*get)(char *buffer, const struct kernel_param *kp);
    6.  41      /* Optional function to free kp->arg when module unloaded. */
    7.  42      void (*free)(void *arg);
    8.  43  };
    9.  44  
    10.  45  /* Flag bits for kernel_param.flags */
    11.  46  #define KPARAM_ISBOOL 2
    12.  47  
    13.  48 struct kernel_param {
    14.  49      const char *name;
    15.  50      const struct kernel_param_ops *ops;
    16.  51       u16 perm;
    17.  52      u16 flags;
    18.  53      union {
    19.  54          void *arg;
    20.  55          const struct kparam_string *str;
    21.  56          const struct kparam_array *arr;
    22.  57      };
    23.  58 };
    24.  59  
    25.  60  /* Special one for strings we want to copy into */
    26.  61  struct kparam_string {
    27.  62      unsigned int maxlen;
    28.  63      char *string;
    29.  64  };
    30.  65
    31.  66  /* Special one for arrays */
    32.  67  struct kparam_array
    33.  68  {
    34.  69      unsigned int max;
    35.  70      unsigned int elemsize;
    36.  71      unsigned int *num;
    37.  72      const struct kernel_param_ops *ops;
    38.  73      void *elem;
    39.  74  };


  6.     smp_setup_processor_id();

  7. 点击(此处)折叠或打开

    1. 这个函数是针对SMP处理器的，经查阅资料，其作用是获取当前CPU的的硬件ID。
    2. 如果不是多处理器构架，在其他文件中就不会定义这个函数，此时使用本文件定义的弱引用函数：
    3. void __init __weak smp_setup_processor_id(void)
    4. {
    5. }

  8.     /*
  9.      * 必须尽早运行这个程序, 作用是初始化
  10.      * lockdep 模块的hash表:
  11.      */
  12.     lockdep_init();

  13. 点击(此处)折叠或打开

    1. lockdep是一个内核调试模块，用来检查内核互斥机制（尤其是自旋锁）潜在的死锁问题。
    3. 由于自旋锁以查询方式等待，不释放处理器，比一般互斥机制更容易死锁，故引入lockdep检查以下几种可能的死锁情况：
    • 同一个进程递归地加锁同一把锁；
    • 一把锁既在中断（或中断下半部）使能的情况下执行过加锁操作， 又在中断（或中断下半部）里执行过加锁操作。这样该锁有可能在锁定时由于中断发生又试图在同一处理器上加锁；
    • 加锁后导致依赖图产生成闭环，这是典型的死锁现象。

  14.     debug_objects_early_init();

  15. 点击(此处)折叠或打开

    1. 在启动早期初始化hash buckets 和链接静态的 pool objects对象到 poll 列表. 在这个调用完成后 object tracker 已经开始完全运作了.
  16.     /*
  17.      *  初始化栈canary值:
  18.      */
  19.     boot_init_stack_canary();

  20. 点击(此处)折叠或打开

    1. canary值的是用于防止栈溢出攻击的堆栈的保护字 。
    3. 参考资料： GCC 中的编译器堆栈保护技术

  21.     cgroup_init_early();

  22. 点击(此处)折叠或打开

    1. cgroup: 它的全称为control group.即一组进程的行为控制.
    2. 该函数主要是做数据结构和其中链表的初始化
    3. 参考资料： Linux cgroup机制分析之框架分析

  23.     local_irq_disable();

  24. 点击(此处)折叠或打开

    1. 关闭系统总中断（底层调用汇编指令）

  25.     early_boot_irqs_disabled = true;

  26. 点击(此处)折叠或打开

    1. 设置系统中断的关闭标志（bool全局变量）

  27. /*
  28.  * 中断依然被禁用。做必要的设置后，
  29.  * 再使能它
  30.  */
  31.     tick_init();

  32. 点击(此处)折叠或打开

    1. 初始化内核时钟系统
    2. -->clockevents_register_notifier(&tick_notifier)
    3. 往内核通知链中注册内核时钟时间的通知函数
    5. 参考资料：《Linux 时钟处理机制》  《Linux 时钟管理》
  33.     boot_cpu_init();

  34. 点击(此处)折叠或打开

    1. 激活当前CPU（在内核全局变量中将当前CPU的状态设为激活状态）
    2. 参考资料：《激活第一个CPU》
  35.     page_address_init();

  36. 点击(此处)折叠或打开

    1. 高端内存相关，未定义高端内存的话为空函数

  37.     printk(KERN_NOTICE "%s", linux_banner);

  38. 点击(此处)折叠或打开

    1. 打印内核版本信息，也就是平时我们在内核启动时在串口中看到的：

      1. Linux version 2.6.37+ (tekkaman@tekkaman-desktop) (gcc version 4.3.3 (Sourcery G++ Lite 2009q1-203) ) #40 Tue Mar 20 17:49:58 CST 2012

  39.     setup_arch(&command_line);

  40. 点击(此处)折叠或打开

    1. 内核构架相关初始化函数,可以说是非常重要的一个初始化步骤。其中包含了处理器相关参数的初始化、内核启动参数（tagged list）的获取和前期处理、内存子系统的早期的初始化（bootmem分配器）。
    2. 对于ARM构架来说，这个函数位于：arch/arm/kernel/setup.c
    3. 以后会详细分析这个函数。

  41.     mm_init_owner(&init_mm, &init_task);
  42.     mm_init_cpumask(&init_mm);

  43. 点击(此处)折叠或打开

    1. 初始化代表内核本身内存使用的管理结构体init_mm。
    2. ps：每一个任务都有一个mm_struct结构以管理内存空间，init_mm是内核的mm_struct，其中：
    3. 设置成员变量* mmap指向自己，意味着内核只有一个内存管理结构;
    4. 设置* pgd=swapper_pg_dir，swapper_pg_dir是内核的页目录(在arm体系结构有16k， 所以init_mm定义了整个kernel的内存空间)。
    5. 这些内容涉及到内存管理子系统，以后再仔细分析。

  44.     setup_command_line(command_line);

  45. 点击(此处)折叠或打开

    1. 对cmdline进行备份和保存：
    3.  /* 为处理的command line备份 (例如eg. 用于 /proc) */
    4.  char *saved_command_line;                                                                                                                                                    
    5. /* 用于参数处理的command line */
    6. static char *static_command_line;

  46.     setup_nr_cpu_ids();
  47.     setup_per_cpu_areas();
  48.     smp_prepare_boot_cpu();    /* arch-specific boot-cpu hooks */

  49. 点击(此处)折叠或打开

    1. 针对SMP处理器的内存初始化函数，如果不是SMP系统则都为空函数。
    2. 他们的目的是给每个CPU分配内存，并拷贝.data.percpu段的数据。为系统中的每个CPU的per_cpu变量申请空间并为boot CPU设置一些数据。
    3. 在SMP系统中，在引导过程中使用的CPU称为boot CPU

  50.     build_all_zonelists(NULL);
  51.     page_alloc_init();

  52. 点击(此处)折叠或打开

    1. 设置内存管理相关的node（节点，每个CPU一个内存节点）和其中的zone（内存域，包含于节点中，如）数据结构,以完成内存管理子系统的初始化，并设置bootmem分配器。
    2. page_alloc_init函数暂时不知其目的
  53.     printk(KERN_NOTICE "Kernel command line: %s\n", boot_command_line);
  54.     parse_early_param();
  55.     parse_args("Booting kernel", static_command_line, __start___param,
  56.          __stop___param - __start___param,
  57.          &unknown_bootoption);

点击(此处)折叠或打开

  1. 打印从内核启动参数中获取的cmdline字符串。
  2. 解析cmdline中的启动参数。

  1.     /*
  2.      * 使用大量bootmem分配，且必须先于
  3.      * kmem_cache_init()
  4.      */

  5. 点击(此处)折叠或打开

    1. 以上注释的含义在于bootmem是内核启动时使用的临时内存分配器。之后由slab接替。
    2. kmem_cache_init()初始化了内核高速缓存分配器（slab分配器），这个函数标标志着bootmem的终结，同时内核的内存管理系统正式启用了。
    3. 所以在kmem_cache_init()之后，bootmem的API不再可用，所以bootmem分配必须先于kmem_cache_init()。

  6.     setup_log_buf(0);

  7. 点击(此处)折叠或打开

    1. 使用bootmem分配一个记录启动信息的缓存区
  8.     pidhash_init();

  9. 点击(此处)折叠或打开

    1. 使用bootmem分配并初始化PID散列表，由PID分配器管理空闲和已指派的PID
  10.     vfs_caches_init_early();

  11. 点击(此处)折叠或打开

    1. 前期VFS缓存初始化

  12.     sort_main_extable();

    点击(此处)折叠或打开

    1. 对内核异常表（ exception table ）按照异常向量号大小进行排序。

  13.     trap_init();

    点击(此处)折叠或打开

    1. 对内核陷阱异常进行初始化，在ARM构架中为空函数。

  14.     mm_init();

    点击(此处)折叠或打开

    1. 初始化内核内存分配器，其包含6个子函数，作用如下：
    2. 1、page_cgroup_init_flatmem(); 获取page_cgroup 所需内存
    3. 2、mem_init(); 关闭并释放bootmem分配器，打印内存信息。在内核启动时看到的类似如下信息，就是其子函数mem_init输出的：

    4. 点击(此处)折叠或打开

      1. Memory: 86MB 39MB = 125MB total
      2. Memory: 120768k/120768k available, 99392k reserved, 0K highmem
      3. Virtual kernel memory layout:
      4. vector : 0xffff0000 - 0xffff1000 ( 4 kB)
      5. fixmap : 0xfff00000 - 0xfffe0000 ( 896 kB)
      6. DMA : 0xffc00000 - 0xffe00000 ( 2 MB)
      7. vmalloc : 0xde800000 - 0xf8000000 ( 408 MB)
      8. lowmem : 0xc0000000 - 0xde400000 ( 484 MB)
      9. pkmap : 0xbfe00000 - 0xc0000000 ( 2 MB)
      10. modules : 0xbf000000 - 0xbfe00000 ( 14 MB)
      11. .init : 0xc0008000 - 0xc003b000 ( 204 kB)
      12. .text : 0xc003b000 - 0xc04c0000 (4628 kB)
      13. .data : 0xc04c0000 - 0xc0501a80 ( 263 kB)

    5. 3、kmem_cache_init(); 初始化slab分配器
    6. 4、percpu_init_late(); PerCPU变量系统后期初始化
    7. 5、pgtable_cache_init();页表缓存初始化，对于ARM，“介是一个空函数”
    8. 6、vmalloc_init();初始化虚拟内存分配器


  16.     /*
  17.      * 在开启任何中断(比如定时器中断)前设置调度器。
  18.      * 完整的拓扑设置发生在smp_init()中
  19.      * -但与此同时，我们仍然有一个正常运作的调度器。
  20.      */
  21.     sched_init();

    点击(此处)折叠或打开

    1. 初始化调度器数据结构，并创建运行队列

  22.     /*
  23.      * 禁用强占 - 早期启动时的调度是极为脆弱的，
  24.      * 直到cpu_idle()的首次运行。
  25.      */
  26.     preempt_disable();
  27.     if (!irqs_disabled()) {
  28.         printk(KERN_WARNING "start_kernel(): bug: interrupts were "
  29.                 "enabled *very* early, fixing it\n");
  30.         local_irq_disable();
  31.     }

    点击(此处)折叠或打开

    1. 在启动的初期关闭抢占和中断。
  32.     idr_init_cache();

  33. 点击(此处)折叠或打开

    1. 为IDR机制分配缓存，主要是为struct idr_layer结构体分配空间
    2. 参考资料：《浅析linux内核中的idr机制》
  34.     perf_event_init();

  35. 点击(此处)折叠或打开

    1. CPU性能监视机制初始化
    2. 此机制包括CPU同一时间执行指令数，cache miss数，分支预测失败次数等性能参数
  36.     rcu_init();

    点击(此处)折叠或打开

    1. 内核RCU（Read-Copy Update：读取-复制-更新）机制初始化

  37.     radix_tree_init();

    点击(此处)折叠或打开

    1. 内核radix树算法初始化

  38.     /* 在init_ISA_irqs()之前初始化一些链接 */
  39.     early_irq_init();
  40.     init_IRQ();

    点击(此处)折叠或打开

    1. 硬件中断系统初始化：
    3. early_irq_init();前期外部中断描述符初始化，主要初始化数据结构。
    5. init_IRQ;对应构架特定的中断初始化函数，在ARM构架中：

    6. 点击(此处)折叠或打开

      1. void __init init_IRQ(void)
      2. {
      3.    machine_desc->init_irq();
      4. }

    7. 也就是运行设备描述结构体中的init_irq函数，此函数一般在板级初始化文件（arch/*/mach-*/board-*.c）中定义。

  41.     prio_tree_init();

    点击(此处)折叠或打开

    1. 初始化内核基于radix数的优先级搜索树（PST），主要是对其结构体进行初始化。

  42.     init_timers();
  43.     hrtimers_init();

  45.     softirq_init();
  46.     timekeeping_init();
  47.     time_init();

    点击(此处)折叠或打开

    1. 以上几个函数主要是初始化内核的软中断及时钟机制：
    3. 前面几个函数主要是注册一些内核通知函数到cpu和hotcpu通知链，并开启部分软中断（tasklet等）。
    5. 最后的time_init是构架相关的，旨在开启一个硬件定时器，开始产生系统时钟。对于ARM构架：

      点击(此处)折叠或打开

      1. void __init time_init(void)
      2. {
      3.    system_timer = machine_desc->timer;
      4.    system_timer->init();
      5. #ifdef CONFIG_HAVE_SCHED_CLOCK
      6.    sched_clock_postinit();
      7. #endif
      8. }
    7. 其实就是调用板级初始化文件（arch/arm/mach-*/board-*.c）中定义“设备描述结构体”中的timer成员的初始化函数。

  48.     profile_init();

    点击(此处)折叠或打开

    1. 初始化内核profile子系统，她是内核的性能调试工具。
  49.     call_function_init();

    点击(此处)折叠或打开

    1. 初始化所有CPU的call_single_queue（具体作用还没搞明白），并注册CPU热插拔通知函数到CPU通知链中。

  50.     if (!irqs_disabled())
  51.         printk(KERN_CRIT "start_kernel(): bug: interrupts were "
  52.                  "enabled early\n");
  53.     early_boot_irqs_disabled = false;
  54.     local_irq_enable();

    点击(此处)折叠或打开

    1. 检测硬件中断是否开启，如果开启了就打印出警告。
    2. 设置启动早期IRQ使能标志，允许IRQ使能。
    3. 最后开启总中断（ARM构架是这样，其他构架可能也是这个意思）。


  56.     /*  中断已经开启，因此所有GFP分配是安全的. */
  57.     gfp_allowed_mask = __GFP_BITS_MASK;

  58. 点击(此处)折叠或打开

    1. 开启所有GFP分配允许标志
    2. GFP(get free page)

  59.     kmem_cache_init_late();

    点击(此处)折叠或打开

    1. slab分配器的后期初始化。如果使用的是slob或slub，则为空函数。

  61.     /*
  62.      * HACK ALERT! hack警告！这个是早期的。我们在完成PCI设置等工作前
  63.    * 使能控制台，且console_init()必须意识到这个。
  64.    * 但是我们的确想要早点输出信息，以防某些错误的发生。
  65.      */
  66.     console_init();

    点击(此处)折叠或打开

    1. 初始化控制台，这样可以早点看到启动信息，避免出错时无法查找原因。

  67.     if (panic_later)
  68.         panic(panic_later, panic_param);

  69. 点击(此处)折叠或打开

    1. 检查内核恐慌标志。如果出了问题，就打印信息。
  70.     lockdep_info();

    点击(此处)折叠或打开

    1. 打印lockdep调试模块的信息。

  72.     /*
  74.    * 当irq使能的时候必须运行这个函数，因为它也要自检
  75.    * [hard/soft]-irqs 开/关 锁反转的bug：
  76.      * 
  77.      */
  78.     locking_selftest();

  80. #ifdef CONFIG_BLK_DEV_INITRD
  81.     if (initrd_start && !initrd_below_start_ok &&
  82.      page_to_pfn(virt_to_page((void *)initrd_start)) < min_low_pfn) {
  83.         printk(KERN_CRIT "initrd overwritten (0x%08lx < 0x%08lx) - "
  84.          "disabling it.\n",
  85.          page_to_pfn(virt_to_page((void *)initrd_start)),
  86.          min_low_pfn);
  87.         initrd_start = 0;
  88.     }
  89. #endif

    点击(此处)折叠或打开

    1. 检查initrd的位置是否符合要求。
    2. min_low_pfn是系统可用的最小的pfn（页帧号）。
    3. 也就是判断传递进来initrd_start对应的物理地址是否正常。如果有误就打印错误信息，并清零initrd_start。
  90.     page_cgroup_init();

    点击(此处)折叠或打开

    1. mem_cgroup是cgroup体系中提供的用于memory隔离的功能，此处对此功能进行初始化。
    2. 参考资料：《linux内核mem_cgroup浅析》

  91.     enable_debug_pagealloc();

    点击(此处)折叠或打开

    1. 使能页分配的调试标志。
  92.     debug_objects_mem_init();

    点击(此处)折叠或打开

    1. debug objects机制的内存分配初始化

  93.     kmemleak_init();

    点击(此处)折叠或打开

    1. 内核内存泄漏检测机制初始化；

  94.     setup_per_cpu_pageset();

    点击(此处)折叠或打开

    1. 设置每个CPU的页组，并初始化。此前只有启动页组。

  95.     numa_policy_init();

    点击(此处)折叠或打开

    1. 非一致性内存访问（NUMA）初始化

  96.     if (late_time_init)
  97.         late_time_init();

    点击(此处)折叠或打开

    1. 如果构架存在此函数，就调用后期时间初始化。

  98.     sched_clock_init();

    点击(此处)折叠或打开

    1. 对每个CPU，初始化调度时钟。

  99.     calibrate_delay();

    点击(此处)折叠或打开

    1. 计算BogoMIPS值，他是衡量一个CPU性能的标志。

  100.     pidmap_init();

    点击(此处)折叠或打开

    1. PID分配映射初始化。

  101.     anon_vma_init();

    点击(此处)折叠或打开

    1. 匿名虚拟内存域（ anonymous VMA）初始化

  102. #ifdef CONFIG_X86
  103.     if (efi_enabled)
  104.         efi_enter_virtual_mode();
  105. #endif
  106.     thread_info_cache_init();

    点击(此处)折叠或打开

    1. 获取thread_info缓存空间，大部分构架为空函数（包括ARM）

  107.     cred_init();

    点击(此处)折叠或打开

    1. 任务信用系统初始化。详见：Documentation/credentials.txt

  108.     fork_init(totalram_pages);

    点击(此处)折叠或打开

    1. 进程创建机制初始化。为内核"task_struct"分配空间，计算最大任务数。

  109.     proc_caches_init();

    点击(此处)折叠或打开

    1. 初始化进程创建机制所需的其他数据结构，为其申请空间。

  110.     buffer_init();

    点击(此处)折叠或打开

    1. 缓存系统初始化，创建缓存头空间，并检查其大小限时。

  111.     key_init();

    点击(此处)折叠或打开

    1. 内核密匙管理系统初始化。

  112.     security_init();

    点击(此处)折叠或打开

    1. 内核安全框架初始化

  113.     dbg_late_init();

    点击(此处)折叠或打开

    1. 内核调试系统后期初始化

  114.     vfs_caches_init(totalram_pages);

    点击(此处)折叠或打开

    1. 虚拟文件系统（VFS）缓存初始化

  115.     signals_init();

    点击(此处)折叠或打开

    1. 信号管理系统初始化

  116.     /* 根文件系统的填充可能需要也回写机制 */
  117.     page_writeback_init();

    点击(此处)折叠或打开

    1. 页回写机制初始化

  118. #ifdef CONFIG_PROC_FS
  119.     proc_root_init();
  120. #endif

    点击(此处)折叠或打开

    1. proc文件系统初始化

  121.     cgroup_init();

    点击(此处)折叠或打开

    1. control group的正式初始化

  122.     cpuset_init();

    点击(此处)折叠或打开

    1. CPUSET初始化。
    2. 参考资料：

  123.     taskstats_init_early();

    点击(此处)折叠或打开

    1. 任务状态早期初始化函数：为结构体获取高速缓存，并初始化互斥机制。

  124.     delayacct_init();

    点击(此处)折叠或打开

    1. 任务延迟机制初始化

  126.     check_bugs();

    点击(此处)折叠或打开

    1. 检查CPU BUG的函数，通过软件规避BUG

  128.     acpi_early_init(); /* 在 LAPIC 和 SMP 前初始化 */

    点击(此处)折叠或打开

    1. ACPI早期初始化函数。
    2. ACPI - Advanced Configuration and Power Interface高级配置及电源接口
  129.     sfi_init_late();

    点击(此处)折叠或打开

    1. SFI 初始程序晚期设置函数，
    2. SFI - SIMPLE FIRMWARE INTERFACE。

  131.     ftrace_init();

    点击(此处)折叠或打开

    1. 功能跟踪调试机制初始化，ftrace 是 function trace 的简称。

  133.     /* 所剩下的非-__init的初始化, 内核现在已经启动了 */
  134.     rest_init();

    点击(此处)折叠或打开

    1. 虽然从名字上来说是剩余的初始化。
    2. 但是这个函数中的初始化包含了很多的内容，后面我回单独写一篇来分析。

  135. }
在看完上面的代码之后，你会发现内容很多。但是归纳起来，我认为需要注意的有以下几点：
  1. 内核启动参数的获取和处理
  2. setup_arch(&command_line);函数
  3. 内存管理的初始化（从bootmem到slab）
  4. rest_init();函数

其他的部分都是对内核各个组件的数据结构申请内存，并初始化。


-----------------------------------------------------------
参考资料：
  1. 一个很棒的台湾博士生 的
  2. 《深入Linux内核构架》附录D 系统启动

阅读(168) | 评论(0) | 转发(0) |
0

上一篇：对Linux系统休眠的理解

下一篇：Linux 内核 Makefile 体系简单分析

给主人留下些什么吧！~~
关于我们 | 关于IT168 | 联系方式 | 广告合作 | 法律声明 | 免费注册

Copyright 2001-2010 ChinaUnix.net All Rights Reserved 北京皓辰网域网络信息技术有限公司. 版权所有

感谢所有关心和支持过ChinaUnix的朋友们

16024965号-6