linux下安装配置mogilefs

一、MOGILEFS介绍MOGILEFS是一种分布式文件存储系统。可支持文件自动备份的功能，提供高可用性和高可扩展性。MOGILEFS不支持对一个文件内部的随机或顺序读写，因此只适合做一部分应用，如图片服务，静态HTML服务等，这些应用在文件写入后基本上不需要对文件进行修改，但是可以生成一个新的文件覆盖原有文件。MOGILEFS分为如下几部分1、数据库部分数据库保存了MOGILEFS的所有元数据，一般使用MYSQL，可以单独拿数据库服务器来做，也可以跟其他程序跑在一起。可以用MOGDBSETUP程序来初始化数据库。数据库部分非常重要，因为一个MOGILEFS系统的所有TRACKER都必须指向同一个数据库，因此如果数据库出现问题，那么整个MOGILEFS系统将处于不可用状态，因此数据库最好采用HA结构，如MYSQL主从复制架构，这样可以降低数据库出现问题对MOGILEFS系统的影响。2、跟踪器（TRACKER）MOGILEFSD即TRACKERS程序，类似MOGILEFS的WIKI上介绍，TRACKERS做了很多工作，主要有以下几个REPLICATION机器间复制文件DELETION从命名空间删除是立即的，从文件系统删除是异步的QUERYWORKER响应客户端的请求REAPER在磁盘失败后将文件复制请求重新放到队列中MONITOR监测主机和设配的健康度和状态TRACKER是访问MOGILEFS的入口，所有系统管理相关的操作都要通过其中的某个TRACKERS完成，应用系统的一些操作也要通过TRACKERS，因此一个高业务量的MOGILEFS系统最好同时运行多个TRACKERS来做负载均衡。3、存储节点（STORAGE）MOGSTORED程序的启动将使本机成为一个存储节点。MOGSTORED启动后，便可以通过MOGADM增加这台机器到系统中。一台机器可以只运行一个MOGSTORED作为存储节点即可，也可以同时运行其他程序。存储节点下面还需要定义设备（DEVICE），每个设备都有一个唯一的ID编号，设备也是用MOGADM添加到MOGILEFS系统中的。4、工具主要就是MOGADM，MOGTOOL这两个工具了，用来在命令行下控制整个MOGILEFS系统以及查看状态等等。5、客户端（CLIENT）客户端通过接口访问MOGILEFS系统，对整个系统进行文件读写操作。（HTTP/WWWADMINDIGESTCOM/4/MOGILEFSE5AE89E8A385E4B88EE9858DE7BDAE/MOGILEFSE4BB8BE7BB8D）MOGILEFS特点应用层不需要特殊的核心组件无单点失败MOGILEFS安装的三个组件（存储节点、跟踪器、跟踪用的数据库），均可运行在多个机器上，因此没有单点失败。（你也可以将跟踪器和存储节点运行在同一台机器上，这样你就没有必要用4台机器）推荐至少两台机器。（没有单点失败本人持保留意见）自动的文件复制基于不同的文件“分类”，文件可以被自动的复制到多个有足够存储空间的存储节点上，这样可以满足这个“类别”的最少复制要求。比如你有一个图片网站，你可以设置原始的JPEG图片需要复制至少三份，但实际只有1OR2份拷贝，如果丢失了数据，那么MOGILE可以重新建立遗失的拷贝数。用这种办法，MOGILEFS不做RAID可以节约磁盘，否则你将存储同样的拷贝多份，完全没有必要。“比RAID好多了”在一个非存储区域网络的RAID（NONSANRAID）的建立中，磁盘是冗余的，但主机不是，如果你整个机器坏了，那么文件也将不能访问。MOGILEFS在不同的机器之间进行文件复制，因此文件始终是可用的。传输中立，无特殊协议MOGILEFS客户端可以通过NFS或HTTP来和MOGILEFS的存储节点来通信，但首先需要告知跟踪器一下。简单的命名空间文件通过一个给定的KEY来确定，是一个全局的命名空间。你可以自己生成多个命名空间，只要你愿意，不过这样可能在同一MOGILEFS中会造成KEY冲突。不用共享任何东西MOGILEFS不需要依靠昂贵的SAN来共享磁盘，每个机器只用维护好自己的磁盘。不需要RAID在MOGILEFS中的磁盘可以是做了RAID的也可以是没有，如果是为了安全性着想的话RAID没有必要买了，因为MOGILEFS已经提供了。不会碰到文件系统本身的不可知情况在MOGILEFS中的存储节点的磁盘可以被格式化成多种格式（EXT3,REISERFS等等）。MOGILESFS会做自己内部目录的哈希，所以它不会碰到文件系统本身的一些限制，比如一个目录中的最大文件数。你可以放心的使用。MOGILEFS适合于静态存储，就是那种一次保存，多次读取型的资源，比如以HTML方式静态化处理的动态文件，图片文件，其他只提供下载的文件等。（HTTP/BLOGCSDNNET/STARXU85/ARCHIVE/2008/12/04/3447301ASPX）二、MOGILEFS安装第一首先要安装MYSQL数据库第二安装依赖包执行命令PERLMCPANESHELL进入PERL依赖包安装模式INSTALLDANGASOCKETINSTALLDBIINSTALLNETNETMASKINSTALLGEARMANSERVERINSTALLGEARMANCLIENTASYNCINSTALLIOAIOINSTALLPERLBALINSTALLBUNDLEDBDMYSQLINSTALLMOGILEFSSERVERINSTALLMOGILEFSCLIENTINSTALLMOGILEFSUTILS上述依赖包全部安装完毕后退出。找到DBD模块所在的目录，我的目录为/ROOT/CPAN/BUILD/，这个目录是上面安装时下载的各种依赖包。CDDBDMYSQL30008PERLMAKEFILEPLLIBS“L/USR/LIB64/MYSQLLMYSQLCLIENTL/USR/LIB64LZ“CFLAGSI/USR/INCLUDE/MYSQLMYSQL_CONFIG/USR/BIN/MYSQL_CONFIGTESTHOST127001TESTDBTESTTESTUSERROOTTESTPASSWORD111111MAKEMAKETESTMAKEINSTALL第三建立数据库和创建表进入MYSQL的控制台MYSQLUROOTP111111，执行下面的命令MYSQLMYSQLCREATEDATABASEMOGILEFSMYSQLGRANTALLONMOGILEFSTOMOGILEMYSQLSETPASSWORDFORMOGILEOLD_PASSWORD111111MYSQLFLUSHPRIVILEGESMYSQLQUIT然后再执行下面的命令创建表MOGDBSETUPDBHOSTLOCALHOSTDBNAMEMOGILEFSDBUSERMOGILEDBPASSWORD111111DBROOTUSERROOTDBROOTPASS111111YESVERBOSE第四配置TRACKER的配置文件用ROOT用户执行ADDUSERMOGILEMKDIR/ETC/MOGILEFSVI/ETC/MOGILEFS/MOGILEFSCONFTRACKERS1270017001DB_DSNDBIMYSQLMOGILEFSHOST127001DB_USERMOGILEDB_PASS111111LISTEN1270017001CONF_PORT7001QUERY_JOBS10DELETE_JOBS1REPLICATE_JOBS5REAPER_JOBS1执行如下命令来启动SUMOGILEMOGILEREDHAT1MOGILEFSDMOGILEFSDC/ETC/MOGILEFS/MOGILEFSDCONFDAEMONMOGILEREDHAT1MOGILEFSDPSAUX|GREPMOGILEFSD查看是否启动MOGILEFSD成功然后在各个TRACKER上进行如下的配置，以便把MOGILEFSD加入服务并在系统启动时自动启动编写管理脚本在/ETC/RCD/INITD/下新建文件MOGILEFSD,内容如下/BIN/BASHMOGILEFSDSTARTUPSCRIPTFORTHEMOGILEFSTRACKERCHKCONFIG23458515/此行必写DESCRIPTIONMOGILEFSTRACKER/此行必写，描述服务的内容PROCESSNAMEMOGILEFSDCONFIG/ETC/MOGILEFS/MOGILEFSDCONFPIDFILE/VAR/RUN/MOGILEFSDPIDSOURCEFUNCTIONLIBRARY/ETC/RCD/INITD/FUNCTIONSPATHTOTHEAPACHECTLSCRIPT,SERVERBINARY,ANDSHORTFORMFORMESSAGESLOCKFILELOCKFILE/VAR/LOCK/MOGILEFSDRETVAL0STARTECHON“STARTINGMOGILEFSD“SUMOGILEC“/USR/BIN/MOGILEFSDC/ETC/MOGILEFS/MOGILEFSDCONFDAEMON“RETVALECHORETVAL0STOPSTOPSTATUSSTATUSMOGILEFSDRETVALRESTARTSTOPSLEEP1STARTRELOADRELOADECHO“USAGEMOGILEFSDSTART|STOP|RESTART|RELOAD|STATUS“EXIT1ESACEXITRETVAL然后依次执行如下命令CD/ETC/RCD/INITDCHMOD755MOGILEFSDCHKCONFIGADDMOGILEFSD这样，当LINUX启动时MOGILEFSD就会自动启动。也可以通过手动执行以下命令来进行MOGILEFSD的启动和停止SERVICEMOGILEFSDSTART|STOP|RESTART第五配置STORAGESERVER的配置文件ADDUSERMOGILEMKDIR/VAR/MOGDATAMKDIR/VAR/MOGDATA/DEV1第二台目录为/VAR/MOGDATA/DEV2CHOWNMOGILEMOGILE/VAR/MOGDATA/DEV1MKDIR/ETC/MOGILEFSVI/ETC/MOGILEFS/MOGSTOREDCONFMAXCONNS10000HTTPLISTEN00007500MGMTLISTEN00007501DOCROOT/VAR/MOGDATA然后启动STORAGESERVERROOTLOCALHOSTMOGILEFSSERVER251MOGSTOREDDAEMONROOTLOCALHOSTMOGILEFSSERVER251PSAUX|GREPMOGSTORED1在每个STORAGE的机器上，对STORAGE进行相关的配置,以便把MOGSTORED加入服务并在系统启动时自动启动编写管理脚本在/ETC/RCD/INITD/下新建文件MOGSTORED,内容如下/BIN/SHMOGSTOREDSTARTUPSCRIPTFORTHEMOGLEFSSTORAGENODECHKCONFIG2358515DESCRIPTIONMOGILEFSSTORAGENODEPROCESSNAMEMOGSTOREDCONFIG/ETC/MOGILEFS/MOGSTOREDCONFPIDFILE/VAR/RUN/MOGSTOREDPIDSOURCEFUNCTIONLIBRARY/ETC/RCD/INITD/FUNCTIONSPATHTOTHEAPACHECTLSCRIPT,SERVERBINARY,ANDSHORTFORMFORMESSAGESLOCKFILELOCKFILE/VAR/LOCK/MOGSTOREDRETVAL0STARTECHON“STARTINGMOGSTORED“/USR/BIN/MOGSTOREDC/ETC/MOGILEFS/MOGSTOREDCONFDAEMONRETVALECHORETVAL0STOPSTOPSTATUSSTATUSMOGSTOREDRETVALRESTARTSTOPSLEEP1STARTRELOADRELOADECHO“USAGEMOGSTOREDSTART|STOP|RESTART|RELOAD|STATUS|“EXIT1ESACEXITRETVAL然后依次执行如下命令CD/ETC/RCD/INITDCHMOD755MOGSTOREDCHKCONFIGADDMOGSTORED2MKDIR/DATA/MOGDATA建立数据目录，在每个STORAGE按照所设置的配置文件建立数据目录3根据你机器所能用的硬盘，在数据目录下建立对应的目录并进行挂载ACD/DATA/MOGDATAFILEFILENWEFILE“/PATH/TO/FILE“OUTPUTSTREAMOUTMFSNEWFILE“FILEKEY“,“MYCLASS“,FILELENGTHFILEINPUTSTREAMINNEWFILEINPUTSTREAMFILEBYTEBUF