潜龙勿用,见龙在田
全部博文(540)
分类: LINUX
2009-02-11 21:25:39
分布式文件系统概述
文件系统是操作系统的一个重要组成部分,通过对操作系统所管理的存储空间的抽象,向用户提供统一的、对象化的访问接口,屏蔽对物理设备的直接操作和资源管理。
根据计算环境和所提供功能的不同,文件系统可划分为四个层次,从低到高依次是:单处理器单用户的本地文件系统,如DOS的文件系统;多处理器单用户的本地文件系统,如OS/2的文件系统;多处理器多用户的本地文件系统,如Unix的本地文件系统;多处理器多用户的分布式文件系统,如Lustre文件系统。
本地文件系统(Local File System)是指文件系统管理的物理存储资源直接连接在本地节点上,处理器通过系统总线可以直接访问。分布式文件系统(Distributed File System)是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连。
由于互联网应用的不断发展,本地文件系统由于单个节点本身的局限性,已经很难满足海量数据存取的需要了,因而不得不借助分布式文件系统,把系统负载转移到多个节点上。
传统的分布式文件系统(如NFS)中,所有数据和元数据存放在一起,通过单一的存储服务器提供。这种模式一般称之为带内模式(In-band Mode)。随着客户端数目的增加,服务器就成了整个系统的瓶颈。因为系统所有的数据传输和元数据处理都要通过服务器,不仅单个服务器的处理能力有限,存储能力受到磁盘容量的限制,吞吐能力也受到磁盘I/O和网络I/O的限制。在当今对数据吞吐量要求越来越大的互联网应用中,传统的分布式文件系统已经很难满足应用的需要。
chinaunix网友2010-01-15 15:09:24
分布式文件系统 专业群 1. qq群:(讨论非常热烈) 102082446 (通关密码:我爱分布式文件系统) 2. bbs讨论: mfs权威指南(moosefs)分布式文件系统一站式解决方案(部署,性能测试)不断更新ing http://bbs.chinaunix.net/thread-1644309-1-1.html mfs优势: 0. 通用文件系统,不需要修改上层应用就可以使用。 1. 可以在线扩容。 2. 部署简单。 3. google filesystem的一个c实现。 4. 提供web gui监控接口。 5. 提高随机读或写的效率 6. 提高海量小文件的读写效率