分布式文件系统 Kosmos File System
openkk
12年前
KFS,Kosmos File System分布式文件系统有着高性能,可用性和可靠性等特点。它的目的是用来作为后端的存储基础设施,密集型数据应用,如搜索引擎,数据挖掘,网格计算等。
功能和特点
增量的可扩展性:存储需求可对节点增加,系统会自动适应新的节点。
可利用性:复制是用来提高可用性。通常情况下,文件复制有3种方式。
每个文件的复制程度:在一定程度的复制配置,最大限制为64。
机架数据放置:数据在不同的块架上。
重新平衡:每隔一段时间,中继服务器可以平衡块之间。这样做是为了帮助平衡的磁盘空间之间节点的利用率。
数据完整性:为了处理硬盘损坏的数据块,校验核查所做的每一个阅读,每当有一个校验和不匹配,再复制是用来恢复损坏的块。
文件写入:该系统遵循的标准模式。当应用程序创建一个文件,文件名变成部分文件的命名空间。
缓存:客户端库使用缓存以提高性能。用于支持高速缓存的一致性。
块的版本:版本是用来探测陈旧块。
用户端故障转移:如果客户端库确定无法访问,客户端库将故障转移。
语言支持:可用C++,Java和Python访问客户端库。
工具:包含了一系列新的工具。这可以让用户使用命令浏览文件系统,如cp, ls, mkdir, rmdir, rm, mv。
本地阅读优化:当应用程序运行在同一节点是包含一个优化的本地读取数据。