bfs
bfs 是基于facebook haystack 用golang实现的小文件存储系统。
特性
- 高吞吐量和低延迟
- 容错性
- 高效
- 维护简单
安装
一、安装hbase、zookeeper
二、搭建golang、python环境
- 参考golang官网. 安装请查看这里.
- 参考python官网. 安装请查看[这里]
(https://www.python.org/)
三、安装gosnowflake
- 参考这里
四、部署
1.下载bfs及依赖包
$ go get -u github.com/Terry-Mao/bfs
$ cd /data/apps/go/src/github.com/Terry-Mao/bfs
$ go get ./...
2.安装directory、store、pitchfork、proxy模块(配置文件请依据实际机器环境配置)
$ cd $GOPATH/src/github.com/Terry-Mao/bfs/directory
$ go install
$ cp directory.toml $GOPATH/bin/directory.toml
$ cd ../store/
$ go install
$ cp store.toml $GOPATH/bin/store.toml
$ cd ../pitchfork/
$ go install
$ cp pitchfork.toml $GOPATH/bin/pitchfork.toml
$ cd ../proxy
$ go install
$ cp proxy.toml $GOPATH/bin/proxy.toml
到此所有的环境都搭建完成！
五、启动
$ cd /$GOPATH/bin
$ nohup $GOPATH/bin/directory -c $GOPATH/bin/directory.toml &
$ nohup $GOPATH/bin/store -c $GOPATH/bin/store.toml &
$ nohup $GOPATH/bin/pitchfork -c $GOPATH/bin/pitchfork.toml &
$ nohup $GOPATH/bin/proxy -c $GOPATH/bin/proxy.toml &
$ cd $GOPATH/github.com/Terry-Mao/bfs/ops
$ nohup python runserver.py &
六、测试
集群
directory
- directory主要负责请求的均匀调度和元数据管理，元数据存放在hbase，由gosnowflake产生文件key
store
- store主要负责文件的物理存储
pitchfork
- pitchfork负责监控store的服务状态、可用性和磁盘状态
proxy
- proxy作为bfs存储的代理以及维护bucket相关
ops
- ops作为bfs的后台管理界面，负责分配存储、扩容、压缩等维护工作