李富胜1953年生于山东莒县，后被大连市业余体校选走。成年后身高只有1米78，在门将中偏矮，但李富胜反应极其灵敏，身段相当灵活，而且属于大嗓门门将，能指挥后卫线从容攻防，在他之后的中国矮个门将里，只有傅玉斌可与其媲美。除了这个殿堂级的点球，李富胜还在和哥伦比亚国家队、奥地利维也纳快速队的比赛中扑出过点球，是无可争议的中国扑点专家之一。1982年世界杯预选赛中，以出色的表现入选亚洲明星队，成为首位入选亚洲明星队的中国球员。他还曾四次入选全国最佳阵容。
作为80年代初期国家队的主力门将，李富胜的成名之作是在1981年世界杯预选赛，中国队在工体对阵科威特队的比赛中，当时在中国队1：0领先时，他沉着镇定地扑出了科威特队的点球，确保了中国队的优势以及最后3：0的胜局。事后，广大球迷将他称为“铁门”。在运动生涯中，李富胜从1976年起为国家队出场超过了100场。
1984年退役之后，李富胜曾任八一足球队的政委、主教练，并在1999年出任八一体工大队大队长。后出任中国人民革命军事博物馆副馆长。虽然工作离开了足球圈，但由于李富胜在圈内影响甚广，而且朋友众多，因此他与足球始终没有分开过。而为人豪爽的他，与很多球迷也结下了深厚的友谊。
2007年9月，李富胜在家中悬挂镜子，不慎从梯子上跌落，头部伤势严重。于2007年9月19日住进位于海淀区黑山扈路甲17号的309医院，医院诊断为创伤性中型颅脑损伤。于2007年12月2日23点52分去世，后安葬于北京天山陵园。
