（计算数学专业论文）the+perance+of+namd+on+redneurons+mpu.pdf

ab s t r a c t mo l e c u l a r d y n a m i c s p r o g r a m s , w h i c h a r e u s e d t o s i mu l a t e t h e b e h a v i o r o f i n t e r e s t i n g b i m o l e c u l a r s y s t e m s a n d u n d e r s t a n d t h e s t r u c t u r e a n d f u n c t i o n s o f t h e m , n e e d s t ro n g s c a l a b i l i t y w h e n t h e p r o b l e m s i z e i s fi x e d f o r s i m u l a t i n g o n l a r g e c o m p u t e r s y s t e m s . n a m d i s s c a l a b l e m o l e c u l a r d y n a m i c s s o ft w a r e w h i c h h a s p ro v e n i t s p e r f o r m a n c e o n s e v e r a l p a r a ll e l c o m p u t e r a r c h i t e c tu r e s . t h e r e d n e u r o n s mp u r e v i s i o n 1 . 0 ( mp u 1 .0 ) c o m p u t e r s y s t e m , c o m p o s e d o f 1 6 p o w e r p c mp c 8 5 4 8 p r o c e s s o r s c o n n e c t e d勿 3 - d t o r u s i n t e r c o n n e c t ( f o r m e d i n 4 x 2 x 2 ) , i s d e v e l o p e d b y t h e s h a n g h a i r e d n e u r o n s c o . , i n c t e a m . i n t h i s t h e s i s , 山 e p e r f o r m a n c e o f t h e n a m d s o ft w a r e o n t h e r e d n e u r o n s m p u 1 . 0 s y s t e m i s r e p o rt e d a n d c o m p a r e d w i t h t h e p e r f o r m a n c e o n t h e t r a d i t i o n a l c l u s t e r w i t h i n t e r p ro c e s s o r c o n n e c t i o n n e t w o r k o f t h e e t h e rne t . t h e e ffic i e n c y , w h i c h f a ll s t o 4 0 . 7 % o n t h e t r a d i t i o n a l c l u s t e r s , c a n a c h i e v e a s h i g h a s 9 4 .2 % f o r t h e s a me a p p li c a t i o n w i t h p me o n m p u w i t h 1 6 p r o c e s s o r s . i t m a y r e s u l t f r o m t h e 3 d t o r u s t o p o l o g y a n d r a p i d l o c o m m u n i c a t i o n n e t w o r k . t h i s f a v o r a b l e s c a l a b i l i t y r e s u l t v a li d a t e s t h e d e s i g n o f t h e r e d n e u ro n s mp u , a n d s u g g e s t s f u t u re e n h a n c e m e n t o f t h e mp u a p p ro a c h . k e y wo r d s : n a m d , r e d n e u r o n s m p u , b e n c h m a r k , p a r a ll e l c o m p u t i n g , mo l e c u l a r d y n a m i c s figu re s f i g u r e 1 : r e d n e u ro n s b e t a s y s t e m b u i ld i n g b l o c k s 一“ - . . . 一 “ . “ . ” 二 “ 一” .- . . . . .- - . . - .- . . . 一 ”二4 f i g u r e 2 : mp u s y s t e m o n a c h a s s is . ” “ - - . . - . . “ . - . . . - - . 一“ .“ ” - - - 一 ，. - . 一 “ . . . . . 一5 f i g u r e 3 : n a md 1 h o m e p a tc h e s s t r u c t u r e . . . . . . . . . . - . - . 一 ” 一” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 f i g u r e 4 : n a md h o me p a t c h e s a n d c o m p u t e o b j e c t s . . . . . . . - . 一 “ 一 “ . . -. 一” 一“ . ， ， . . 一“ . 9 f i g u r e 5 : n a md ob j e c ts r e la t io n s h ip s . . . . . . . . . . . . . . . . .” “ . ，. “ ，. . . 一“ . . . “ 一” . . . . . . . . 9 f i g u r e 6 : n a md d y n a mic s l o a d b a la n c in g. . . . . - . . - . . - . -. - - . . . - - . . - - - . . - - - . 一 ” 一” - 一 “ . .- . . . 一 1 1 f i g u r e 7 : l o a d d i s t r i b u t io n f o r a 1 6 p r o c e s s o r s im u la t io n , . . . - 一 “ ” 一 ，. 一 ” 二 ” . - . - - . . . . 一 “ . . 一 1 2 f i g u r e 8 : a p o a 1 ， “ ” . . . 一 ” 一 “ . . -. . . .- - . . . . . .- . . - - . . - - - - . .- - 一 ， ” . . . . . . . . . . . . . -. . . . - . . . - .一 ” . . . . . . 1 5 f i g u r e 9 : d ih y d ro f o la t e r e d u c ta s e in a n e x p lic i t w a te r b a t h . . . . .一” . .- 一” . - - . “. 16 f i g u r e 1 0 : f 1 - a t p a s e . . . . . . . . . . . - 一” .- 一 ” ” - -. . . -. - . . “ :.“ . “ “ ” .， . ” 一，. .“ :. “ 一，. 一 ” . 1 7 f ig u r e 1 1 : d i f f e r e n t s p e e d u p f rom t h e t h r e e b e n c h ma rk s . . . . . . . .一 ” .-. - . . - 一 一 ” 一_ . . . . . 2 0 f ig u r e 1 2 : d i f f e r e n t e f f ic i e n cy f r o m t h e t h r e e b e n c h m a r k s . .一“ 一 ，. 二” 一 “ 一“ . - - - . 一” . 2 0 f ig u r e 1 3 : j a c s p e e d u p o f th e d i ff e r e n t c o m b i n a t io n o f h a r d w a r e a n d s o f t w a r e . . . . . “ 二 ” . . . . . . 2 3 f ig u r e 1 4 : 匆 o a1 s p e e d u p o f t h e d i f fe r e n t c o mb in a t i o n o f h a r d w a r e a n d s o f t w a r e . . . . . . . . . . . . 2 3 f ig u r e 1 5 : 1 6 p - c a r d s in a c h a s s is o f mp u r e v 1 . 0 . 一 “ 一 ，. 一 ， 一 “ 一，. .一 ，.- - . - - 一 “ . . . . . . . 2 8 t v t a b le s t ables t a b le 1 : d iff e r e n t p e rf o r m a n ce o f t h e t h r e e v a r ia t io n s u s in g j a c日 e n c h ma r k . “ 一 ，. 一 ，. . . . . . 1 3 t a b le 2 : d if fe r e n t p e rf o r m a n ce o f t h e t h r e e v a r ia t io n s u s in g a p o a 1 b e n c h m a r k . . . . . 一 “ 一 ， 3 t a b le 3 : d a t a f rom t h e a p o a 1 b e n c h ma r k o n t r a d i t io n a l c lu s te r“ 一 ” . - - . 一“ 一，. 一 “ . . . - 1 8 ta b le 4: da t a f rom t h e j ac b e n c h ma r k o n tr a d it io n a l clu s te r . . . . . . . . . . . . . . . . . “ . -.” . .- . . . 一1 9 ta b le 5 : da t a fro m t h e f 1 - at p a s e b e n c h ma r k o n下 r a d it lo n a l clu s t e r . . . . . . . . . . . . . . . . . . . . . . . . 一，. 二1 9 ta b le 8: 下 h e p e r f o r ma n ce o f j ac b e n c h ma r k o n mpu r e v is io n，. . -.-一“ 一“ .“ . - .- . - - . 2 1 t a b le 7 : t h e p e r f o r ma n ce o f a p p a 1 b e n c h m a r k o n mp u r e v i s io n 1 . ，. - -. . - -. - . . . - -. . . . . . . . . . 2 2 ta b le 8 : t h e p e r fo r m a n ce o f j ac b e n c h m a r k o n tr a d it i o n a l c l u s te r . . .- 一 . - 一。 . - . . . . . . . 2 2 t a b le 9 : t h e p e rf o r m a n ce o f a p p a 1 b e n c h m a r k o n t r a d i t io n a l c lu s t e r . .- 一 “ .“ . ，. . . . . . . . . 2 2 丁a b le 1 0 : cp u me t r ic s “ . . . . - - . - . . - - . - . . - . . . . - 一 “ 一“ “ “ “ “ “ “ “ “ . 一“ 一 “ . - - .一 “ - :. “2 9 t a b le 1 1 : m e m o ry me t r ic s . . . 一“ . - -. . . . . - - . -. - . - . 一- . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 9 t a b le 1 2 : s o f twa r e s t a c k s二 ” - . -. . . . - . . . . . - - . . . . . . . - - . . - - . . . .- - - . . - . . . - . -一 “ . 一 ， “ . . 一 ” . . - 一 “ 一 2 9 t a b le 1 3 : n e t w o r k s me t r ic s. . . - - . - . - . . .- . . . - - 一 ， . . - -. . . . . . .一 “ 一 “ . ， . ， . “ “ 二 “ . “ . - . 一 “. 一 2 9 南开大学学位论文版权使用授权书 本人完全了解南开大学关于收集、保存、使用学位论文的规定， 同意如下各项内容:按照学校要求提交学位论文的印刷本和电子版 本:学校有权保存学位论文的印刷本和电子版，并采用影印、缩印、 扫描、 数字化或其它手段保存论文; 学校有权提供目 录检索以及提供 本学位论文全文或者部分的阅览服务; 学校有权按有关规定向国家有 关部门 或者机构送交论文的复印件和电子版; 在不以赢利为目的的前 提下， 学校可以 适当复制论文的部分或全部内 容用于学术活动。 ，德 专 学位论文作者签名: ) -t- q 年” p 日 经指导教师同意，本学位论文属于保密，在年解密后适用 本授权书。 指导教师签名: 学位论文作者签名: 解 密 时 间:年月日 南开大学学位论文原创性声明 本人郑重声明: 所呈交的学位论文， 是本人在导师指导下， 进行 研究工作所取得的成果。 除文中已经注明引用的内容外， 本学位论文 的研究成果不包含任何他人创作的、 已公开发表或者没有公开发表的 作品的内容。对本论文所涉及的研究工作做出贡献的其他个人和集 体， 均己 在文中以明 确方式标明。 本学位论文原创性声明的法律责任 由本人承担。 参论 廿 七 7 . s - 3 d c h a p t e r 1 : i n tr o d u c t i o n 1 i ntroduct i on mo l e c u l a r d y n a mi c s p r o g r a m s s i m u l a t e t h e b e h a v i o r o f b imo l e c u l a r s y s t e m s , l e a d i n g t o i n s i g h t s a n d u n d e r s t a n d i n g o f t h e i r s tr u c t u r e s a n d f u n c t i o n s . t y p i c a l s i m u l a t i o n s i n v o l v e 1 0 ,0 0 0 t o a f e w h u n d r e d t h o u s a n d a t o m s . a n d t h e s i m u l a t i o n m u s t b e s t u d i e d o v e r s e v e r a l n a n o s e c o n d s t o d e v e l o p s i g n i fi c a n t u n d e r s t a n d i n g o f t h e p h e n o me n a , b u t 山 。t i me s c a l e o f a t o m i c i n t e r a c t i o n s r e q u i res t h a t t i m e s t e p s m u s t a s s m a ll a s o n e f e m t o s e c o n d . s o t h e c o m p u t a t i o n a l c o m p l e x i t y o f s u c h s i m u l a t io n s i s e n o r m o u s p a r a ll e l m a c h i n e s p r o v i d e th e p o t e n t i a l t o m e e t t h i s c o m p u t a t i o n a l c h a l l e n g e . t o h a rn e s s t h i s p o t e n t i a l , i t i s n e c e s s a ry t o d e v e l o p a s c a l a b l e p r o g r a m n a md i s a c + + b a s e d p a r a l l e l m o l e c u l a r d y n a m i c s p r o g r a m , i m p l e m e n t e d u s i n g t h e c h a r m + + p a r a ll e l p r o g r a m m i n g s y s t e m . i t u s e s o b j e c t b a s e d d e c o m p o s i t i o n a n d m e a s u r e m e n t b a s e d d y n a m i c l o a d b a la n c i n g t o a c h i e v e i t s h i g h p e r f o r m a n c e . i t u s e s a c o m b i n a t i o n o f s p a t i a l d e c o m p o s i t i o n a n d f o r c e d e c o m p o s i t i o n t o g e n e r a t e a h i g h d e g r e e o f p a r a l l e l i s m . n a md i s o n e o f t h e f a s te s t a n d m o s t s c a l a b l e p r o g r a m s f o r b i m o l e c u l a r s i m u l a t i o n s . a t t h e s a m e t i m e , i t b e c a m e o n e o f t h e mo s t p o p u l a r b e n c h m a r k s t o t e s t t h e s c a l a b i l i t y o f t h e h i g h p e r f o r m a n c e c o m p u t e r s . t h e r e d n e u r o n s mp u r e v i s i o n 1 . 0 ( mp u 1 . 0 ) s y s t e m , w h i c h r e p r e s e n t s a n e w d e s i g n p o i n t a m o n g p a r a ll e l m a c h i n e s , i s d e s i g n e d勿 山 .y u e f a n d e n g , a n d d e v e l o p e d 妙t h e r e d n e u r o n s t e a m . i t i s c o m p o s e d b y 1 6 p c c a r d s ( f o r m e d i n 4 x 2 x 2 m e s h ) a n d 2 i o c a r d s . e a c h p c c a r d h a s o n e p o w e r p c m p c 8 5 4 8 p r o c e s s o r r u n n i n g a t a c l o c k s p e e d o f 1 . 3 3 g h z a n d 5 1 2 mb m e m o ry . t h e s e p c c a r d s a r e c o n n e c t e d i n a 4 x 2 x 2 3 d - t o r u s n e t w o r k , b a s e d o n r a p i d i o p r o t o c o l s . t h e t o r u s n e t w o r k h a s a re l a t i v e l y l a r g e b a n d w i d t h o f 1 8 3 m b / s o n e a c h o f t h e s i x l i n k s , w h i c h i s a n a d v a n t a g e t o m o l e c u l a r d y n a m i c s . n a m d h a s d e m o n s t r a t e d s c a l a b i li t y勿 s c a l i n g a 3 2 0 , 0 0 0 a t o m s i m u l a t i o n , _ 二 _ _c h a p t e r 1 : i n tr o d u c t io n 一一一一一一 f l - a t p a s e , t o 3 0 0 0 p r o c e s s o r s w it h m o r e t h a n 1 t f o f p e a k p e r f o r m a n c e 6 f o r c u t o ff s i m u l a t i o n s , a n d i t c a n s c a l e s a 9 2 , 0 0 0 a t o m s i m u l a t i o n , a p o a l , t o 8 1 9 2 p r o c e s s o r s i b m b l u e g e n e 几 u s i n g t o p o l o g y s p e c i fi c o p t i m iz a t i o n s a n d n e w m e s s a g i n g p r o t o c o l s 9 . i n t h i s t h e s i s , b e s i d e s a b o v e t w o s y s t e m s , w e i n v e s t i g a t e t h e p e r f o r m a n c e o f a s m a l l e r s y s t e m w h i c h o n l y h a s 2 3 , 5 5 8 a t o m s o n t h e r e d n e u r o n s m p u s y s t e m . t h e m a i n a i m i s t o v a l i d a t e t h e c h o i c e o f 3 d t o r u s n e t w o r k a n d r a p i d l o c o mm u n i c a t i o n h a r d wa r e . we s t a rt t h i s t h e s i s w i t h a r e v i e w o f t h e r e d n e u r o n s mp u s y s t e m i n s e c t i o n 2 . f o ll o w i n g w e d e s c r i b e s t h e b a s i c s t r u c t u r e o f n m a d , i n c l u d i n g o b j e c t - o r i e n t e d d e s i g n , p a r a l l e l i z a t i o n s t r a t e g y , j o b d i s t r i b u t i o n a n d t h e l o a d - b a l a n c i n g s c h e m e . i n s e c t i o n 4 , w e d e s c r i b e t h e t h r e e b e n c h m a r k p a c k a g e s w e h a v e u s e d . f i n a l b e n c h m a r k p e r f o r m a n c e d a t a a n d a n a l y s i s a r e s h o w n i n s e c t i o n 5 c h a p t e r 2 : r e d n e u r o n s h i g h p e r f o r ma n c e c o mp u te r 2 r e dne u rons hi gh p e rf or man ce comp u t er t h e r e d n e u r o n s s y s t e m i s d e v e l o p e d b y t h e r e d n e u r o n s t e a m , t o b u i l d a h i 酗y e ff i c i e n t , e a s y t o u s e , v e r s a t i l e a n d s c a l a b l e m e s s a g e - p a s s i n g m i m d a r c h i t e c t u r e f o r p a r a l l e l a p p l i c a t i o n s . t h e c o m p l e t e r e d n e u r o n s s y s t e m w i ll b e b u i l t a r o u n d t h e mp u m o d u l e s . t h e d e s i g n a n d i m p l e m e n t a r e d e s c r i b e i n t h e y d e n g , e t a l . 1 l . f o ll o w i n g w e d e s c r i b e t h e ma i n i d e a o f t h e d e s i g n o f t h e mp u 1 . 0 . 2 . 1 ha r d war e t h e s y s t e m i s d e s i g n e d t o u s e f r e e s c a l e mp c 8 5 4 8 / i vpc 8 6 4 1 d p r o c e s s o r s . mp c 8 5 4 8 p r o c e s s o r s , w h i c h w o r k a t 1 . 3 3 g h z . i s u s e d i n t h e mp u mo d u l e . t h e y a r e r a t e d a t 2 . 1 2 5 g fl o p s ( d o u b l e p r e c i s i o n ) a n d 5 .3 3 g fl o p s ( s i n g l e p r e c i s i o n ) . e a c h p r o c e s s o r a l l o w s f o r u p t o 5 1 2 m b o f m a i n m e m o ry p e r c o r e . t h i s p r o c e s s o r f a m i l y o ff e r s s e v e r a l o n b o a r d i n t e r f a c e s f o r c o n n e c t i v i t y t o t h e o t h e r s y s t e m b l o c k s . r e d n e u r o n s mp u u s e s t h e s e r i a l r a p i d l 0 p o rt t o p r o v i d e a n i n t e r f a c e t o t h e f a b r i c o f s w i t c h i n g d e v i c e s f o r m e s s a g e - p a s s i n g a n d 1 / o n e t w o r k s a n d t h e e t h e rn e t f o r m a n a g e m e n t . t h e s e c o n d r e v i s i o n w i ll t a r g e t d u a l c o r e m p c 8 6 4 1 d p r o c e s s o r s r u n n i n g a t 1 . 5 g h z f o r th e p e r f o r m a n c e o f 4 . 8 g fl o p s ( d o u b l e p r e c i s i o n ) a n d 1 2 g fl o p s ( s i n g l e p r e c i s i o n ) . t h e 1 / o i n t e r f a c e s o f mp c 8 5 4 8 a n d mp c 8 6 4 1 d a r e c o m p a t i b l e w h i c h a ll o w s re u s i n g a l a r g e p a rt o f t h e d e s i g n d u r i n g t h e s e c o n d s t a g e t h e b a s i c b u i l d i n g b l o c k o f t h e s y s t e m i s a s y s t e m c h a s s i s . a s y s t e m c h a s i s i s c o m p o s e d o f t w o p r o c e s s i n g c e l ls w h i c h h o s t o n e 1 / o c a r d a n d e i g h t p c a r d s ( p r o c e s o r c a r d ) w h i c h h o s t c o m p u t e n o d e s . s e e i n t h e f i g u r e 1 仪 d e n g , e t a l . 1 1 ) . 伪即姗 2 : r e c ne u r o n s h ig h p e r f o mu m c e c o mp u t e r 5 ” 血 助口 m 肠 片仪 目翻 甘 h 口 蛇 口c a d o r 1 /o c a d ) p r i. 日 c 目 】 铭昭铭昭 卜 舒舒卜舒 竹口 a 月 到 万c0 口 ， o， 今 1 今 5 w it c h ,此 d e s 1 ”ip -9 p -e 皆留 舒 唱黔 昭 舒唱幽昭 舒唱舒昭 舒 招 舒 铭 卜舒 f i g ure 1 : 1 t e d n e u ron s b e ta s y s t e m b u i l d i n g b l o c k s t h e p r o c e s s o r s a r e c o n n e c t e d勿 t h r e e i n t e r p r o ces s o r c o m m u n i c a t i o n , t r e e n e tw o r k s me s s a g e - p a s s i n g n e t wo r k f o r uo a n d l o n g n e t wo r k f o r 坦d i s t a n ce c o m m u n i c a t i o n , a n d t h e e t h e r n e t n e t w o r k f o r s y s t e m m a n a g e m e 吐a n d 理 姆 r a c c e s s . t h e m e s s a g e - p a s s i n g n e t w o r k u s e s 6 p o r t s o f t h e s w i t c h d e v i ce o n t h e p c a r d a n d i s d e s i g n e d t o f o r m a n e t w o r k o f p c a r d s w i t h t h e 3 d h y p e r c u b e t o p o l o g y . t h e t r e e n e t w o r k a n d t h e e t h e rn e t n e t w o r k a r e o r g a n i z e d i n t h e s t a r t o p o l o g y . t h e t r e e n e t w o r k u s e s o n e p o r t o f t h e s w i t c h d e v i ce o n t h e p c a r d 明d e i g h t p o r t s o f t h e s w i t c h d e v i ce o n t h e u o c a r d w h i l e t h e e the metn e t w o r k i s i mp l e m e n t e d v i a a d i r e c t c o n n e c t i o n fr o m t h e e 伪 圈 rnets w i t c h o n t h e u o c a r d t o t h e i n t e r f a c e s o n t h e mp c 8 5 4 8 p r o c e s s o r s . e a c h c h a s s i s w i ll c o n t a i n a p a i r o f p r o c e s s i n g c e ll s w i t h t h e i r m e s s a g e - p a s s i n g n e t w o r k s c o n n e c t e d i n t e r n a l l y t o f o r m a 4 d h y p e r c u b e o u t o f t w o 3 d h y p e r c u b e o f m p u 1 6 s u b u n i t s . f i g u r e 2 伴 d e n g , e t a l . 川) s h o w s t h e c o n n e c t i v i ty w i t h i n o n e 山a s s i s . t h e r e d l i n e s r e p r e s e n t t h e t r e e n e t w o r k a n d e th ern etn e t w o 氏 w h i l e t h e b l a c k l i n e s r e p r e s e n t m e s s a g e - p a s s i n g n e t w o r k . i t s h o u l d b e n o t e d t h a t t h e 4 d h y p e r c u b e c a n b e f o r m e d fr o m t w o 3 d h y p e r c u b e s u b u n i t s w it h u n t e r m i n a t e d t o t e s l i n k s a l o n g t h e t w o d i m e n s i o n s . c h a p t er 2 : r e d n e u r o n s hi沙 p e r f o r m a n ce c o m p u t e r mp u s y s t e m o n a c h a s s is 翻 刁 u 刊. 目泊 下 n门 l 翻 山 f i g u r e 2 : m w s y s te m o n a c h a s s is 2 . 2 so ftwa r e t h e r e d n e u r o n s s y s t e m s o ft w a r e s ta c k w i ll f a c i li t a t e e x e c u t i o n o f t h e p a r a l l e l a p p li c a t i o n s w r i t t e n u s i n g t h e iv vi s ta n d a r d . i n o r d e r t o s u p p o rt t h e l a r g e b o d y o f t h e a p p l i c a t i o n c o d e c r e a t e d f o r t h e e x i s ti n g p r o g r a m m i n g i n t e r f a c e s w e s e l e c t e d t 2 l i n u x v 2 . 6 . 1 1 a s t h e o p e r a t i o n s y s te m . t h e c o mp i l e r w e u s e d i s t h e g e e a n d g f o r t r a n 4 . 1 . 1 . w e s t i ll n e e d t o o p t i m i z e t h e c o m p i l e r f o r o u r a r c h i t e c t u r e . t h e m e s s a g e - p a s s i n g l i b r a r i e s a r e t h e mp i c i -i 2 a n d t h e mp i g a mm. t h e mp i g a mma i s d e v e l o p e d b y t h e r e d n e u r o n s t o o p t i m iz e t h e c o m m u n i c a t i o n o v e r t h e r a p i d i o . c h a p t e r 3 : n amd s c a l a b le mo le c u la r d y n a mic s 3 n amd s cal abl e mol e cu l ar d yn ami c s n a m d i s a p a r a l l e l m o l e c u l a r d y n a m i c s p ro g r a m m d e s i g n e d f o r h i g h - p e r f o r m a n c e s i m u l a t i o n o f l a r g e b i m o l e c u l a r s y s t e m s o n p a r