24 123
发新话题
打印

FastDFS-开源分布式文件系统

FastDFS-开源分布式文件系统

FastDFS是一个开源的分布式文件系统,她对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。
详情请参阅FastDFS官方站点:http://www.csource.org/

TOP

不错不错,估计我会用到,现在在做门户网站

涉及到好多视频、文件,不知道静态网页是否也可以使用这种方式来管理

TOP

不错,看看吧!

TOP

回复 1# 的帖子

静态网页也是可以的,目前只提供C API,以后可以考虑使用FUSE支持mount按文件系统方式使用。

TOP

和M$的DFS有啥差别?

TOP

回复 5# 的帖子

多台服务器组成存储集群,可以分卷(组),同一卷内的服务器之间的数据文件完全一样,同一卷的文件自动同步。FastDFS是Unix系统下的分布式文件存储轻量级解决方案,目前在Linux和FreeBSD下测试通过。

TOP

FastDFS V1.2发布

V1.2新增功能如下
支持对meta data进行修改,有两种修改模式:
Overwrite:覆盖模式,用新的meta data列表覆盖原有meta data列表;
Merge:合并模式,如果新的meta data不存在,则添加,否则更新为当前值。

google code下载地址:
http://code.google.com/p/fastdfs/downloads/list

TOP

佩服LZ的成果。是你一个人在做这个project吗?

草草看了一下fdfs_test.c,知道了如何在client用C AP进行文件操作,还没有看server的code。有几个问题请教:
- 能不能够给个具体的应用?比如像你前面帖子说,假设是个照片sharing网站flickr之类的,怎样把FastDFS用到这类网站上?
- serve端对文件的传播复制是基于什么算法呢?有没有数据一致性的问题?假设storage server A得到上传的文件F1,还没有复制到storage server B上。这时storage server B得到另一个版本的文件F1。如果两个server一起传播,谁的算是最后的版本呢?
- 有没有性能方面的数据?比如用FastDFS比不用要快多少?

多谢。
如果一个公司好比是乳品厂,那Engineer只是一头奶牛,连人都不是。悲哀啊。

TOP

目前只有我一个人在开发这个项目,希望能感兴趣的朋友参与到这个项目中。

- 能不能够给个具体的应用?比如像你前面帖子说,假设是个照片sharing网站flickr之类的,怎样把FastDFS用到这类网站上?

目前只提供了C语言的API,接下来可以提供Java和PHP的API,方便大家调用。比如做相册的网站可以把照片文件存储到FastDFS中。

- serve端对文件的传播复制是基于什么算法呢?有没有数据一致性的问题?假设storage server A得到上传的文件F1,还没有复制到storage server B上。这时storage server B得到另一个版本的文件F1。如果两个server一起传播,谁的算是最后的版本呢?

文件名是由服务器端生成的,文件名中包含了3个信息:当前时间、文件大小和一个随机数,并且文件分散到二层(级)目录中,所以文件名冲突可能性完全可以忽略。

- 有没有性能方面的数据?比如用FastDFS比不用要快多少?
完全使用socket特定协议进行通讯,传输性能不会存在问题。系统架构很轻量级,程序全部用C实现,特别精简,从架构和具体实现上没有缺陷。另外,FastDFS主要解决大容量存储和对文件高并发访问的问题。

TOP

跟hadoop, google filesystem之类的map-reduce实现相比性能上有什么优势?
冗余性?机柜识别的replication是否支持?扩展性?
open source的分布式文件系统现在就hadoop在yahoo有大规模的应用,

TOP

 24 123
发新话题