湖南永兴人。1928年初，湖南永兴一带举行了一次农民武装暴动。随后，永兴县苏维埃政府宣告成立。在这支两千多人的农民武装中，有一位杰出的党代表——黄克诚。他1925年加入中国共产党，参加了北伐战争。大革命失败后，他竿转返回家乡，在中共湘南特委的领导下，组建农民武装,成立了永兴红色警卫团，开展武装斗争。1928年4月,率领部队随朱德,陈毅上了井冈山。从此，在红军队伍中可以看见一个瘦高个子的红军团长，他穿着和士兵一样的服装，戴着一副高度近视眼镜，身边还有一个装满书籍的小木箱。因善于读书和独立思考，在加上战争历练，在当时的红军师团指挥员中，黄克诚思维敏锐，眼光独特，常常会对局势做出精准的判断。
黄克诚在军队中长期做政治工作，基本要诀就是自身的模范作用。1930年初，他刚被派到红五军中任大队政委，大家对这个戴着高度近视眼镜的人的印象是个书生。随后，部队攻打江西修水县城，先行爬云梯的战士纷纷中弹掉了下来。紧急关头，黄克诚手持一把寒光闪闪的大刀，冒着弹雨带头爬云梯。这一无畏榜样带动了全大队人人争先，迅速把红旗插上城头。战后，军长彭德怀说:“打一仗让我们认识一个人，修水战斗使我们了解了黄克诚。”不过，他又回头叮嘱黄克诚:“下次作战不许再挥大刀往前冲，那么大一副眼镜片子，一看就是个官，容易遭枪子儿。”
抗日战争爆发后，黄克诚任八路至第一一五师第三四四旅政治委员，与旅长徐海东率部参加晋东南反“九路围攻”战斗，为创建晋冀豫抗日根据地做出了贡献。"皖南事变后，黄克诚所在部队改编为新四军第三师，任师长兼政治委员。后来他又担任苏北军区副司令兼政委，领导苏北军民粉碎了日伪军的多次扫荡和蚕食，巩固和扩大了苏北抗日根据地。
抗日战争胜利后，黄克诚建议不管苏军同不同意，都要进军东北。中共中央听从了他的建议，命他帅三师3万多人北进，部队到达冀热辽后，他又力主避免决战而先开创新根据地，在他的建议和领导下创建了西满根据地。辽沈战役结束后，毛泽东鉴于黄克诚能提出独到见解命他主持接管天津，任市委书记兼军事管制委员会主任。在黄克诚的领任下，天津市迅速恢复了生产，社会治安稳定。毛泽东对接管天津工作给于了充分肯定。
粉碎“四人帮”后，1977年黄克诚由外地回到了北京，十一届三中全会后任中纪委常务书记、第二书记，在他的主持和领导下，纠正了党内、军内大量冤假错案。尤其是对刘少奇这一最大 冤案的纠正，从根本上否定了“文革”所谓的“以刘少奇为首的资产阶级司令部”的中心内容。这次拨乱反正，黄克诚功不可没。
黄克诚大将晚年虽双目失明，却仍然关心军队建设，关注着党和国家的前途命运。尤其是为正确评价毛泽东的历史地位和作用作了大量的工作。1980年11月27日，黄克诚在中纪委座谈会上作了他晚年生活中最长的一次报告。他联系中国革命的历史和他自己亲身经历，充分肯定了毛泽东为中国共产党和中国人民所建立的不朽功勋。这篇讲话在全党全军引起了强烈反响，对于当时人民深刻理解邓小平对毛泽东和毛泽东思想的论述，统一全党思想起了重要作用。
1985年9月，黄克诚感到身体状况无法适应工作需要，主动辞去了担任的一切领导职务。中共十二届四中全会给黄克诚写了致敬信，高度评价了他的光辉革命业绩和崇高的革命品德，并给他发了致敬电，赞誉他“具有坚强的阶级党性，不盲从，不苟同，坚持真理，刚直不阿，不论身居高位还是身陷逆境，都一心为公，无私无畏"
现安葬于北京八宝山革命公墓第一墓区。
