阿弥陀佛
发布时间:2014-11-10 11:31:42
常见的离线计算的Join模式分为Reduce Join 和Map Join。MapJoin 处理的表 ,比如一个表比较大(L),一个表比较小(R)。当这两个表要按照外键key,进行Join操作的时候,系统该如何做呢? 该方法有一个前提条件,就是R 必须能够Load进内存中。将R放入到(以外键作为key)的.........【阅读全文】
发布时间:2014-11-08 21:04:09
在普通盘上做测试,所有的offset,size,buffer都是要512对齐的,刚开始使用O_DIRECT的时候在考虑这些问题。 后来在RAID5上,开始疑神疑鬼,不知道RAID上如果要调用pread或者pwrite的时候,是否需要得到chunksize,并将所有的读写都进行chunksize大小对齐,后来发现这个担心是多余了。 direct io 只要求.........【阅读全文】
发布时间:2014-11-06 15:29:34
在RAID上创建XFS的时候,mkfs.xfs会自动计算出RAID的stripe unit size 与 stripe width。并对XFS的磁盘格式做优化。XFS在分配块的时候,会以更加细的粒度进行分配。我同时在一块盘上以及RAID0上做了XFS,发现RAID0上的XFS的性能要好于单块盘的性能,而且用iostat可以发现,每个磁盘的io带宽也都增加了很多。在md0中,可.........【阅读全文】