1949年以前的上海滩，有一个学生模样，文质彬彬的年轻人，他本名吴庆德，乳名“大星”，父母和邻居们都叫他“笃星”，走在街上，他是风度翩翩的社会青年“林清”，他有一个秘密的小圈子，在那里，他被同伴们称作是“老吴”，他爱写文章，“辅民”这个名字，便常常出现在让政府头疼的地下刊物上，同一天时间里，他上午是大学生，下午就成了米行老板，到了晚上，他又化身成为一名家庭教师，走街串巷为中学生补习英语。解放后，他把自己的名字改为“吴学谦”，取意“谦谦君子，虚怀若谷”，他就是后来成为国务院副总理，兼外交部部长的吴学谦，官至副总理之后，他仍然喜欢别人叫他“老吴”。
1937年“卢沟桥事变”爆发，一年后上海沦陷，民族危亡之际，受进步思想影响的吴学谦，义无反顾地加入了上海学生抗日救亡协会，1939年他加入中国共产党，开始了长达十年，近乎隐姓埋名的地下革命。
1941年12月，日军偷袭珍珠港以后，上海形势急剧恶化，1942年秋，中央决定把上海地下党的骨干，转移到淮南抗日根据地集中学习。在解放区，吴学谦经历了整风的洗礼，并且生平第一次扛起枪杆，在日伪军的鼻尖下游走于山林和村落，接引白区来的同志进入淮南。
1945年是一个悲喜交加的年份，日本人投降了，国内战争却一触即发，在中国最大的城市上海，从解放区充电归来的吴学谦迅速投身学运，成为了第二条战线的开拓者和出类拔沁的幕后指挥者。他和上海学委的其他领导,相继策划并且指挥了“六．二三”运动和“反饥饿,反内战”的“五．二O”运动，有力声援了人民解放军的炮火攻势。
1958年吴学谦进入中央对外联络部，主管西亚、非洲的政党外交工作，他多次出访这些地区中未与中国建交的国家，并以人民外交的形式，与不同类型的政党建立联系，抽象的公文背后，是普通人难以想象的艰辛、历练、智慧和汗水。多年的外事工作，吴学谦养成了一个习惯，定期阅读英文版的美国《新闻》杂志和《时代》周刊，他发现，只有把西亚、非洲国家，放置在全球的视野之内，充分了解这些国家的历史、民俗，以及西方世界的看法，和它们打起交道来才会得心应手，驾轻就熟。1971年，联合国通过了恢复中国合法席位的决议,76张赞成票当中,有53张来自亚非拉，这一天，非洲代表激动地在椅子上跳起了舞，后来毛泽东说，是亚非拉朋友把我们抬进了联合国，推动民间外交，把亚非拉国家紧密团结在中国周围，吴学谦可以说是功不可没。
吴学谦出访过50多个国家,多次参加联合国大会与各种重要国际会议。他在推行大国外交，联合第三世界，捍卫国家主权，维护世界和平与促进国际合作的事业中任劳任怨辛勤工作，为开拓中国外交局面，提升中国国际地位做出了重要的贡献。后来他又兼管港澳事务与对台工作，正确判断形势，制定对台政策，参与中英谈判，审议香港基本法与中英联合声明，在促进两岸关系发展和国家统一大业，解决香港问题方面发挥了重要作用。
2008年4月4日，吴学谦静悄悄地离开了人世，他走的那天正是中国的清明节，一个属于缅怀和纪念的日子，也许是天意，也许是巧合，一生低调的老吴同志，此后的每一个忌日都将和清明节一起，被人想起，被人追忆。
吴学谦老人的墓碑设计颇有新意——半个地球、一对相交的橄榄枝加上握手的形象，象征了世界和平。
现安葬于北京八宝山革命公墓第一墓区。
