覃健出生于1911年，廣西東蘭縣人，出生于一個貧寒的農民家庭。青少年時期，覃健積極參加各種農民活動，并加入了家鄉的農民赤衛軍，投身保衛家鄉的斗爭當中。在此期間，覃健還接觸到馬列主義，并對馬列主義產生濃厚的興趣。

1929年，覃健跟隨家鄉的赤衛軍參加了廣西百色地區的武裝反抗國民黨的斗爭，此后他被編入紅七軍。1931年，覃健加入了我黨，成為了一名光榮的黨員，同時，他也跟隨紅七軍北上，到達中央蘇區，擔任了紅三軍團政治部警衛連排長、紅三軍團政治部警衛連連長等職務，率部參加了中央根據地的第三到第五次反“圍剿”作戰。

1934年10月，第五次反“圍剿”失敗后，覃健參加了長征，并于1935年秋天到達陜北。到達陜北后，覃健又馬不停蹄地參加了直羅鎮、東征以及西征等戰役，鞏固與建設了陜北根據地。

抗日戰爭全面爆發后，覃健進入抗日軍政大學學習，畢業后留校擔任了軍事教員。1938年，覃健跟隨八路軍115師參與了冀魯邊抗日根據地的開辟工作，1940年，冀魯邊支隊與八路軍第二縱隊合編，覃健擔任了八路軍第二縱隊第五團團長，此后他南下前往蘇北一帶，參加了蘇北抗日根據地的建設與鞏固。

1941年，國民黨反動派包圍了正在向江北轉移的新四軍，制造了皖南事變。皖南事變后，覃健被編入了新四軍第三師，并擔任了二十三團團長，此后他又擔任了淮海軍區司令員、新四軍第三師第十旅副旅長等職務。1945年，覃健率部南下，前往安徽、江蘇一帶，支援新四軍第七師的作戰，同時，他還率部參加了收復無為、襄安等地的戰斗，殲滅了大量日偽軍，為抗日戰爭的勝利作出了積極的貢獻。

抗日戰爭勝利之后，覃健繼續留在華東一帶，擔任了華東野戰軍12縱隊副司令，以及蘇北軍區副司令員、第三野戰軍第九兵團參謀長等職務，率部參加了濟南戰役、淮海戰役、渡江戰役、上海戰役等，殲滅了敵人大量有生力量，為新中國的成立立下赫赫戰功。

建國后，覃健留在上海工作，抗美援朝爆發后，他奉命進入朝鮮戰場作戰，參加了第二、第五次戰役以及上甘嶺戰役，為《朝鮮停戰協定》的簽訂貢獻了一份力量。1953年，覃健從朝鮮戰場回國，此后他留在華東軍區工作，擔任了第2副參謀長。1955年，華東軍區改為南京軍區，覃健擔任了南京軍區副參謀長。也是這一年，他被授予中將軍銜，成為開國中將之一。

在南京軍區工作期間，覃健狠抓軍事訓練工作，同時，他也經常深入軍區的基層指導檢查工作，促進了軍區的發展壯大。1956年，譚建進入北京軍事學院學習，期間，他憑借頑強的毅力，刻苦鉆研軍事理論知識。

因為對覃健來說，進入軍事學院學習是他多年以來的夙愿，因此他進步非常快，并以優秀的成績畢業。可惜的是，常年的工作熬垮了覃健的身體。完成學業之后，覃健已經身患重病，在授銜之后4年，也就是1959年，覃健因病去世，享年48歲。