陶峙岳是湖南寧鄉人，父親是當地有名的士紳，由于家境優渥，陶峙岳從小就接受了比較好的教育。他喜動不喜靜，對軍事十分熱愛，因此到了讀小學年級的時候就報考了湖南陸軍小學，由此開始了自己的軍旅生涯。后來陶峙岳又考入了陸軍第三中學，并參加了武昌起義，1915年，他進入河北保定軍校深造。

軍校畢業后，陶峙岳進入湘軍中任職，并跟隨部隊參加了北伐，累積戰功升任少將師長，一年后晉升為中將軍銜。抗日戰爭全面爆發后，陶峙岳率領第8師參加了淞滬會戰，在蘊藻浜一帶和日寇血戰了21個晝夜，一戰揚名。此后他的職務穩步上升，擔任過中將軍長和集團軍副總司令。

抗戰勝利后，陶峙岳出任新疆警備總司令，新疆是我國少數民族聚居地區之一，面積約占全國的六分之一，當時人口為433萬。解放戰爭爆發后，國民黨在新疆的駐軍主要分為三個部分，一部是趙錫光率領的整編第42師，一部是馬呈祥的整編騎兵第一師，還有一部是葉成的整編第78師。這三部兵力加起來在十萬人左右。

趙錫光是滇軍出身，馬呈祥是馬步芳的親外甥，葉成則是胡宗南的親信。因此陶峙岳雖然是新疆警備總司令，但手下三個師長都不是他的嫡系，他要指揮部隊也比較困難。淮海戰役結束后不久，蔣介石在桂系的逼迫下下野，李宗仁出任代總統。此時桂系的勢力仍在，因此李宗仁心存幻想，妄圖劃江而治。

蔣介石雖然已經下野，但卻退居到奉化老家幕后指揮，他的嫡系比如湯恩伯和胡宗南等人，根本就不聽李宗仁的命令。桂系要想和蔣介石掰手腕，單靠自身的兵力是不夠的，于是李宗仁就把主意打到了陶峙岳的身上。1949年2月，李宗仁給陶峙岳下令，讓他留下一個旅擔任新疆的防務，其余部隊全部調往長江一帶，以加強長江防線的守衛力量。

陶峙岳不愿意打內戰，但李宗仁畢竟是代總統，他又不好直接抗命。經過一番思考后，陶峙岳親自擬定了一個10萬大軍在千里戈壁行軍的龐大軍費計劃，然后上報給了李宗仁。大軍開拔，肯定是需要糧餉的，但李宗仁卻拿不出這筆錢，因此新疆的駐軍也就沒有開赴長江一帶。

渡江戰役結束后，國民黨敗局已定。在大西北，一野也開始了對馬家軍的反攻。1949年8月12日，彭德懷率部發起蘭州戰役，經過十多天的激戰，一舉將馬步芳的主力消滅。之后一野大軍乘勝追擊，相繼解放了陜西、甘肅、寧夏、青海四省，兵鋒直逼新疆。

為了使新疆數百萬人民免受戰火涂炭，毛主席通過多種途徑派人和陶峙岳聯系，希望他能在合適的時機起義，為新疆的和平解放做貢獻。為了免除陶峙岳的后顧之憂，彭德懷還專門派人把他在內地的家屬秘密接到了解放區，加以保護。與此同時，陶峙岳的老上級張治中將軍也多次寫信，敦促他起義。

陶峙岳本人也非常愿意起義，但手下三個整編師的師長都不是他的嫡系，馬呈祥和葉成還均是堅決的主戰派。如果此時貿然宣布起義的話，成功的可能性極低，搞不好還會有生命危險。陶峙岳是老行伍，自然不會蠻干。他仔細分析了一下手下三個整編師師長的情況，認為趙錫光和馬呈祥、葉成不同，是可以爭取的。

當時趙錫光率部駐守在南疆，陶峙岳以視察防務為由來到了整編第42師并和趙錫光進行了深入的交談。趙錫光也是老行伍，知道蔣介石大勢已去，而且他也不是蔣介石的嫡系，自然也沒有理由繼續為他賣命，最終他同意了陶峙岳起義的建議。有了趙錫光的支持，起義成功的可能性就提高了不少。

之后陶峙岳又去做馬呈祥的工作。蘭州戰役爆發前，馬步芳曾給馬呈祥去電，要求他率部返回蘭州參戰。但不料馬繼援敗得太快，馬呈祥未能趕到蘭州參戰，也因此躲過了一劫。蘭州戰役之后，被打掉了主力的馬家軍一敗再敗，馬步芳父子帶著多年搜刮的民脂民膏逃到了國外。

馬呈祥雖然堅決主戰，不愿意起義，主要原因就是他有顧慮。紅軍時期，他作為馬家軍騎兵團的團長率部在河西走廊和徐向前率領的西路軍作戰。由于多種原因，西路軍最終失利，不少被紅軍將士慘遭馬家軍的毒手，馬呈祥本人也殺害了不少紅軍官兵。

由于欠下了血債，馬呈祥自認為如果起義的話也會被清算，因此他堅決主張抵抗到底，但心里卻沒有多少底氣。陶峙岳對此心知肚明，他見到馬呈祥后，開門見山地和他陳述了利害。并表示只要他交出兵權，自己就可以讓他帶著家財出國。此時馬呈祥的父親也從香港給他發來了電報，希望他能去香港團聚。

馬呈祥權衡利弊后，同意了陶峙岳的建議。這樣一來，剩下的葉成孤掌難鳴，也被迫同意交出兵權，帶著家財出國。至此，起義的障礙被一一掃除。馬呈祥等人離開新疆前，陶峙岳親自前來送行，并派了一個排的兵力護送他們。馬呈祥和葉成等人的路線是經阿克蘇、喀什、巴基斯坦到印度，然后再尋機去香港。

由于他們帶了大量的黃金，走到阿克蘇的時候，還被李祖唐的部下敲了竹杠。葉成是個守財奴，一兩黃金都不愿意往外拿，結果在上廁所的時候被人開了一槍，子彈擦著頭皮飛過，葉成被嚇了個半死，這才乖乖掏出了買路錢。后來馬呈祥輾轉來到了香港和家人團聚，1950年秋季，他又去了臺灣，擔任過澎湖防衛副司令，后來又和妻子一起移居到美國生活。

馬呈祥和葉成等人出國后，起義再無阻力。1949年9月末，陶峙岳和包爾汗等人通電起義，新疆獲得和平解放，數百萬新疆人民因此免受了戰火之苦。不久后王震率領一野第一兵團進入新疆，受到了陶峙岳等人的熱烈歡迎。但得知他放跑了馬呈祥后，一些人認為陶峙岳這個做法不妥。

他們認為馬呈祥欠下了西路軍官兵的血債，理應受到嚴懲才對，結果卻被陶峙岳給放跑了。陶峙岳也因此遭到了批評。但王震卻認為陶峙岳的做法沒有錯，在當時的情況下，如果不放馬呈祥和葉成等人離開，他們勢必要作困獸之斗，屆時老百姓免不了要受刀兵之苦。毛主席也認為陶峙岳的做法不但沒有錯，而且還應該給予表揚。

本來陶峙岳是準備在起義成功后就解甲歸田的，但毛主席勉勵他繼續為國家做事。不久后陶峙岳出任解放軍第22兵團司令，后來又擔任了新疆建設兵團司令。1955年大授銜的時候，沒有紅軍和八路軍經歷的陶峙岳，憑借著在新疆和平解放中作出的重要貢獻被授予了上將軍銜。