穆祥雄是天津市北辰区天穆村人，回族，1935年生。1962年加入中国共产党。自幼体格健壮，好学上进。在父亲的教导下，专攻蛙泳，尤其擅长潜泳。1953年被选入国家队。1954年赴匈牙利学习游泳。历任国家队教练、中国游泳协会副主席。1956年至1961年多次获得欧洲国际游泳比赛100米、200米蛙泳冠军，1958打破100米蛙泳世界纪录。1959年又以1分11秒3和1分11秒1的成绩打破该项世界纪录。
几十年来，穆祥雄得到许多令人羡慕的荣誉。1959年，国家体委授予他国家体育运动荣誉奖章。1986年，当选全国优秀游泳工作者。1987年，被评为全国最佳教练员。1988年12月，在广州举行的第六届全运会期间，跻身全国20名功绩卓著的最佳教练员称号者行列。1989年，被评为全国十佳教练。1990年，应邀为北京亚运会开幕式护旗。1994年，在建国45周年之际，被评为新中国成立以来体育界45名杰出运动员之一。 在穆祥雄青年时，中国的体育还十分落后，中国人时常被其他国家蔑称为“东亚病夫”。一幅充满讥讽意味的漫画给年幼的穆祥雄留下了深刻的印象，这也让他走上了跟随父亲练习游泳的道路。
“漫画的内容是画了一个大鸡蛋，很大的一个鸡蛋，上面画着五环旗，边上有一个人瘦小枯干，留着长辫子，举了一个大镐，腿上的曲线看起来好像是在发抖，（他要）把鸡蛋打碎。意思是讽刺东亚病夫想在奥运会上取得成绩，打破零（的僵局），最后写了三个字，不可能。”
穆祥雄的父亲看了这幅漫画后，十分愤怒，他希望自己的孩子们能够练习体育项目，在奥林匹克运动会上证明中国人也是好样的。可是，练习什么项目呢？身为运动员的父亲有着自己的见解，他觉得亚洲国家的运动员，身体条件比较相似，所以中国可以借鉴邻国日本的经验。
颇有游泳天分的穆祥雄很快崭露头角，在开始学习游泳的当年就获得了天津市游泳比赛的奖项。从这以后，穆祥雄学习游泳的兴趣更加浓厚了，参加比赛夺得名次的形势也一发不可收拾。在1952年，他获得了全国游泳比赛100米、200米蛙泳冠军，并在1953年进入了当时刚刚组建的中国国家游泳队。 1946年12岁时，首次参加天津市第一次游泳表演赛即崭露头角，获幼童组第一名，得银盾一座。1947年8月和1948年4月，先后参加天津市游泳公开赛，均获儿童组个人总分第一，被誉为“游泳神童”。
1950年，作为天津市第一中学的学生，在天津市游泳比赛中参加六单程俯泳、三单程俯泳和三单程仰泳，均获冠军。1951年7月23日，在天津市游泳选拔赛上，以3′08″的成绩刷新旧中国保持16年之久的男子200米蛙泳全国纪录；8月26日，在京津地区游泳赛中，又以2′56″7创男子200米蛙泳全国纪录。1952年8月，刚刚17岁的穆祥雄代表华北队参加在广州举行的全国第一届游泳比赛，获100米和200米2项蛙泳冠军，并以2′54″8的成绩破200米俯泳甲（蛙式）全国纪录。面对成绩，他说：“我决心努力学习，将成绩再提高，争取迎头赶上国际水平及打破世界纪录，为祖国、为人民争光荣。”
1953年7月，穆祥雄入选国家队，到莫斯科参加国际青年运动会游泳选拔赛，以2′25″4打破男子200米蛙泳全国纪录。从1954年开始到1956年，穆祥雄在国内外蛙泳比赛中多次夺金掠银，仅1956年就赢得100米和200米蛙泳9项（次）国际游泳赛事冠军。1956年墨尔本奥运会后，国际泳联规定“正式比赛不准用潜泳”，并对原世界记录不予承认。这对一次潜泳四五十米的穆祥雄来说，无疑是巨大损失。但他没有退缩，在父亲和教练的帮助下，很快摒弃自己的潜泳特长，探索出“半高航式”技术动作，获得成功。
1958年12月20日，他在北京举行的游泳比赛中，以1′11″4的成绩创造禁止潜水以后的100米蛙泳世界纪录。8个月后的1959年8月30日，以1′11″3的成绩再次刷新自己保持的100米蛙泳世界纪录。1959年9月17日，在第一届全运会100米蛙泳决赛中，又以1′11″1的成绩第三次打破世界纪录。《中国青年报》报道说：“这种在短时间内三次打破自己创造的高纪录的事例，在世界游泳运动史上是罕见的。这次消息一发布，游泳馆立即响起了暴风雨般的掌声，掌声持续达一刻钟之久。”在上世纪50年代全国性游泳比赛中，他7次摘取100米蛙泳比赛冠军，7次获得200米蛙泳比赛冠军，被誉为“蛙王”。 穆祥雄和十几个队友被派往匈牙利学习，这样的机会让他眼界大开，训练方式也更加科学、有效了。在匈牙利的学习生活给穆祥雄留下了美好的记忆。他觉得，如果不刻苦、努力地学出点成绩来，太愧对自己的国家。
他一边学习一边研究，终于摸索出了独具特色的蛙泳方法——在水面下游蛙泳。他用这样的游泳方法在后来的许多比赛中都获得了骄人的成绩。1958年，他打破100米蛙泳世界纪录。1959年，他又以1分11秒3和1分11秒1的成绩两次打破该项目世界纪录。穆祥雄辉煌的游泳经历在那时候达到了巅峰。 和不少运动员的经历一样，穆祥雄退役后担任了中国游泳队的主教练，为中国游泳界培养出了许许多多的优秀运动员。尤其在退休之后，他还成立一些游泳俱乐部，培养那些有可能成为今后游泳名将的小孩子们。
1963年，穆祥雄受命担任国家游泳队教练。1964年应邀到越南担任国家游泳队教练，所带女子运动员在1966年于印度尼西亚举办的亚洲新兴力量运动会上夺得200米蛙泳冠军。“文化大革命”期间，穆祥雄受到冲击，曾被关押40天。1976年粉碎“四人帮”后重回国家队，任国家游泳队总教练，发现和培养人才，所带弟子黄晓敏、叶润成、王林、梁伟芬等在国际游泳赛事中均创造了佳绩。其后，穆祥雄任中国泳协副主席，继续为中国的游泳事业贡献自己的聪明才智。
如今，“蛙王”穆祥雄虽然早已退出赛场，但仍活跃在泳坛。2003年在天穆村创立“穆祥雄游泳培训中心”，2005年改称“穆祥雄游泳俱乐部”，每年将二三百名学龄前儿童聚拢在身边，悉心调教，为延续中国泳坛“穆家军”的辉煌继续发挥着自己的光和热。 1956年墨尔本奥运会前，穆祥雄当时的成绩在全世界排第一，当时的国家体委精心选拔了包括游泳项目在内的92名运动员在北京集训。这些运动员囊括了当时中国的体育精英，包括打破世界纪录的举重选手陈镜开、跳高名将郑凤荣等。体育代表团已经到了广州，就等着从香港出关去墨尔本。结果打前站的一个副团长说，‘台湾代表团’的旗子已经在奥运村里升起来了，明显是在制造‘两个中国’阴谋。为这个，咱们的代表团就没去参加，队伍又生生拉了回来。
为了检验实力，在墨尔本奥运会举办的同时，国家体委在上海举办了一场别开生面的奥运对抗赛。那次对抗赛上，穆祥雄200米蛙泳的成绩比墨尔本奥运会冠军快了近2分2秒。如果当时穆祥雄参加了奥运会，穆祥雄拿下了那块金牌，中国奥运夺金的历史要提前28年，中国的奥运史也很有可能会被改写。
不过，令他欣慰的是，他的弟子钱红最终帮他实现了奥运金牌梦。1992年巴塞罗那奥运会上，钱红拿到了金牌。这块迟到的金牌他足足等了36年。
