陳銳霆出生于1906年，山東即墨人，出生于一個農(nóng)民家庭。早年時期，陳銳霆先后在濟(jì)南私立正誼中學(xué)、山東省立第一師范學(xué)校讀書，1928年，他被分配到青島滄口小學(xué)，成為一名小學(xué)教員。

在讀書以及擔(dān)任小學(xué)教員期間，陳銳霆對社會有了更為現(xiàn)實(shí)的認(rèn)知，這也促使他積極探索拯救國家與民族的道路。1928年年底，陳銳霆毅然放棄了優(yōu)渥的教員待遇，投筆從戎，考入了河北的黃埔軍校第七期炮兵隊(duì)。

1930年，從軍校畢業(yè)后的陳銳霆被分配到山西閻錫山的炮兵部隊(duì)任職。1935年，為了進(jìn)一步掌握炮兵技術(shù)，陳銳霆考入了南京炮校第二期學(xué)習(xí)。也是在這所學(xué)校讀書期間，陳銳霆接觸到馬克思主義，并對馬克思主義產(chǎn)生了濃厚的興趣。1937年3月，陳銳霆加入了我黨，成為一名光榮的黨員。

抗日戰(zhàn)爭全面爆發(fā)后，陳銳霆擔(dān)任了國民黨第三十二軍炮兵團(tuán)三營營長、四二五團(tuán)團(tuán)長等職務(wù)，率部參加了喜峰口抗戰(zhàn)、徐州會戰(zhàn)，與日本侵略者進(jìn)行了堅(jiān)決的斗爭。1941年，國民黨制造了皖南事變，包圍了新四軍。皖南事變后，只有極少數(shù)新四軍將士突圍成功，然而，國民黨卻持續(xù)破壞抗日民族統(tǒng)一戰(zhàn)線，身為四二五團(tuán)團(tuán)長的陳銳霆也接到通知，要求他渡過穎河，與新四軍交戰(zhàn)。

在這種背景下，陳銳霆毅然通過南方局聯(lián)系中央，并請求率部加入新四軍。得到中央批準(zhǔn)后，陳銳霆當(dāng)即召集營級以上軍官，向他們講述一致抗日的重要性。在這之后，陳銳霆帶領(lǐng)四二五團(tuán)的1000多人加入了新四軍。加入新四軍后，這支隊(duì)伍被改編為新四軍獨(dú)立旅，陳銳霆擔(dān)任了獨(dú)立旅旅長一職。

此后陳銳霆又擔(dān)任了新四軍司令部參謀處長兼炮兵司令員、抗大四分校副校長、淮北軍區(qū)副參謀長等職務(wù)，因?yàn)楫?dāng)時新四軍還沒有炮兵，所以陳銳霆的主要任務(wù)是培訓(xùn)學(xué)員，為將來我軍建設(shè)炮兵做好了準(zhǔn)備。

抗日戰(zhàn)爭勝利后，陳銳霆繼續(xù)留在華東大地，擔(dān)任了山東軍區(qū)參謀處長等職務(wù)。魯南戰(zhàn)役勝利后，我軍繳獲了大批先進(jìn)裝備，陳銳霆也有了大展身手的機(jī)會。此后陳銳霆擔(dān)任了特種兵縱隊(duì)司令員，重點(diǎn)組建我軍的榴彈炮兵團(tuán)。

在濟(jì)南戰(zhàn)役期間，陳銳霆率領(lǐng)的炮兵團(tuán)發(fā)揮了重要的作用，當(dāng)時他指揮10個炮兵團(tuán)500余門火炮參加濟(jì)南戰(zhàn)役，開創(chuàng)了我軍“利用強(qiáng)大炮火輔以爆破，奪取敵堅(jiān)固設(shè)防和重兵據(jù)守的大城市”的先例，是濟(jì)南戰(zhàn)役勝利的功臣之一。

山東解放后，陳銳霆率部繼續(xù)南下，參加了淮海戰(zhàn)役以及渡江戰(zhàn)役，立下赫赫戰(zhàn)功，是建立新中國的功臣之一。新中國成立后，陳銳霆陸續(xù)擔(dān)任了華東軍區(qū)炮兵司令員兼南京炮校校長、炮兵參謀長、炮兵副司令員以及炮兵顧問等職務(wù)。1955年授銜時，他被授予少將軍銜，成為開國少將。

離休之后，陳銳霆依然關(guān)心我軍的各項(xiàng)建設(shè)，尤其是在炮兵建設(shè)方面，他積極獻(xiàn)言獻(xiàn)策，提出了很多有用的建議，促進(jìn)了我軍炮兵的正規(guī)化與現(xiàn)代化建設(shè)。晚年的陳銳霆主要生活在北京，于2010年因病去世，享年104歲。