mogilefs_分布式存储架构图

MOGILEFS分布式存储安装环境MOGILEFS相关服务器IPTRACKER调度器192168114232TRACKER调度器192168114236STORAGENODES1存储节点1192168114235STORAGENODES2存储节点2192168114231MYSQL192168114233图示MOGILEFS节点图示MOGILEFS内部关系一、用CPAN安装先安装PERLYUMYINSTALLPERLCPANCPANINSTALLIOAIOCPANINSTALLDBICPANINSTALLDBDMYSQL如果安装不成功，是MYSQL的路径问题。运行这个即可PATH/USR/LOCAL/MYSQL/BINPATHEXPORTPATHCPANINSTALLMOGILEFSSERVERINSTALLGEARMANCLIENTINSTALLGEARMANSERVERINSTALLSYSSYSCALLINSTALLPERLBALINSTALLNETNETMASKINSTALLDANGASOCKETINSTALLGEARMANCLIENTASYNCCPANINSTALLMOGILEFSUTILSINSTALLMOGILEFSCLIENT二、配置第一步,初始化数据库（232上）MOGDBSETUPDBHOST192168114233DBNAMEMOGILEFSDBUSERMOGILEFSDBPASSMOGILEFS第二步,新建TRACKER配置文件（232上）VI/ETC/MOGILEFSDCONFDB_DSNDBIMYSQLMOGILEFS192168114233DB_USERMOGILEFSDB_PASSMOGILEFSCONF_PORT6001LISTENER_JOBS5第三步,启动TRACKERS（232上）GROUPADDMOGILEUSERADDMOGILEGMOGILESUMOGILEMOGILEFSDC/ETC/MOGILEFSDCONFDAEMONCLIENTPUTHTTP/WWWBAIDUCOM/IMG/LOGOYYGIF,LOGOYYGIF,ONEMETADATACLIENTGETLOGOYYGIFVAR_DUMPMETADATA/CONTENTFILE_GET_CONTENTSMETADATAPATH1/ECHOCONTENT详见HTTP/192168114232/MOGILEFSPHP第七步,WEBSERVERNGINX的MOGILEFS模块VI/USR/LOCAL/NGINX/CONF/NGINXCONFSERVERLOCATION/UPLOAD/MOGILEFS_TRACKER1921681142326001MOGILEFS_DOMAINKOOFANGCOMMOGILEFS_METHODSGETMOGILEFS_PASSPROXY_PASSMOGILEFS_PATHPROXY_HIDE_HEADERCONTENTTYPEPROXY_BUFFERINGOFF详见HTTP/192168114232/UPLOAD/LOGOYYGIF三、名词解释HOST存储主机这个是MOGILEFS存储文件存放在这些机器上，也是MOGSTORED节点，也叫STORAGESERVER，一台存储主要都要启动一个MOGSTORED服务。扩容就是增加这些机器。DEVICE设备一个存储节点，以就是上面的主机，可以有多个DEVICE,就是用来存放文件的目录比较挂载的目录，每个设备都有一个设备ID，需要在MOGSTORED的配置文件中的DOCROOT配置的项目指定的目录下面创建相应的设备的目录，目录名为DOCROOT/DEVID，设备是不能删除的。只能将其设备的状态的值置为DEAD，当一个设备DEAD之后，就真的DEAD了，里面的数据也无法恢复了，且这个DEAD了的设备的ID也不能再用DOMAINDOMAIN是文件区分的最高层次。每个DOMAIN中的文件KEY是唯一的。一个DOMAIN包含了在DOMAIN中定义文件的CLASS的集合。DOMAIN的例子FOTOBILDER、LIVEJOURNAL。CLASS每个文件只属于一个CLASS。一个CLASS只属于一个DOMAIN。事实上，CLASS只是指定文件的“最小复制数”的。CLASS的例子USERPICTURE、USERBACKUP、PHONEPOST。KEYKEY是一个标识文件的唯一的文本字符串。在一个DOMAIN中KEY是唯一的。KEY的例子USERPCITURE3439、PHONEPOST933834、USERBACKUP15。最小复制数这是CLASS的一个属性。定义了这个CLASS中的文件需要被复制到不同的设备的份数，以确保数据冗余避免丢失。文件文件是一个上传到MOGILEFS来存储确定的BIT集合。文件会根据“最小复制数”被复制。每个文件有一个KEY，是一个CLASS的一部分，位于一个DOMAIN中。文件是MOGILEFS为你存储的东西。四、MOGILEFS的管理MOGSTORED程序的启动将使主机本身成为一个存储的节点，MOGSTORED的启动后，还需要使用MOGADM来让当前的这个主机加入到MOGILEFS的系统中。这就是一个存储节点。注意存储节点中还需要添加设备,每个设备有一个UNIQ的ID号同样也要使用MOGADM来加入到MOGILEFS的系统中。注意，下面的命令中，如果没有配置照我前面“设置MOGILEFS中的管理工具的接口”来配置管理接口的地址的话，都要加一个TRACKERS6001才能正常。MOGILEFS中的存储主机节点管理现在加入“存储节点”到TRACKERS中。告诉注册自己到TRACKERS相当于为每个主机加入MOGILEFS的存储系统MOGADMTRACKERS6001HOSTADDIP127001PORT7500STATUSALIVE注，如果配置了前面的管理工具的地址,就简单多了MOGADMHOSTADDIP127001PORT7500STATUSALIVE检查这个主机是否加入到MOGILEFS的系统中MOGADMHOSTLIST使用MOGADM来修改MOGILEFS中主机的信息,修改的时候，一定要加上状态STATUSALIVE,不然不能修改MOGADMHOSTMODIFYSTORAGE_NODE_NAMEIP123XXXXXX70STATUSALIVEMOGILEFS中的存储设备管理建一个目录给这个“设备“使用，我们这的例子是使用DEV1在主机中建一个目录，建目录使用DEVID这种格式,记的所有系统中ID不能重复。也必须和配置文件中的路径一样。如下MKDIRP/VAR/MOGILE_DATA/DEV1然后在给相对应用的块设备MOUNT到这个点，软链也行。给“设备“加入”存储的节点“当中，相当于为每个设备加入MOGILEFS的存储系统MOGADMDEVICEADDID检查我们加入的“设备“信息，这样就能见到上面这个设备了。还能显示加入的大小。MOGADMDEVICELIST标记失效的设备，当硬盘坏了，设备有问题时，这时会自动在一个域内复制到最小设置的保存份数。恢复上面一样在一次ADD设备就好了MOGADMDEVICEMARKIDDEADMOGILEFS中域,类的管理当上面的准备好了，MOGILEFS是运行中时，接下来我们要建一个我们自己的名字空间和加入文件到存储当中我们使用MOGADM的工具来能创建一个“域“和“类“。也可以使用这个来增加文件到“类“中建“域“MOGADMDOMAINADD检查“域“,显示存在的域MOGADMDOMAINLIST在“域“中建“类“，并加入最小保存份数MOGADMCLASSADDMINDEVCOUNT2检查“类“MOGADMCLASSLIST检查整个系统MOGADMCHECKMOGILEFS中文件管理我们可以简单的使用MOGTOO