1927年，曾就讀過武漢中央軍事政治學校的鄧萍同志，受黨的派遣，在彭德懷任團長的國民黨湖南陸軍獨立第5師第1團做兵運，擔任彭德懷的副官，在該團秘密發展共產黨員，并成立了中共黨支部和團委。

1928年4月，彭德懷在段德昌的介紹下加入中國共產黨。其所在部隊不久被調往平江地區進行“清鄉”，以逮捕屠殺共產黨人，鎮壓工農運動。面對嚴峻的形勢，7月中旬，中共湘鄂贛邊特委書記滕代遠來到平江，與第1團的共產黨組織取得聯系，傳達了中共湖南省委關于必要時可舉行起義的指示。恰在這時，國民黨發現獨立第5師第3團第3營營長黃公略是共產黨員，遂電令逮捕。彭德懷、滕代遠獲悉這一情況后，立即召集會議，決定迅速舉行武裝起義。
經過一番緊張的準備后，1928年7月22日，獨立第5師第1團在彭德懷、滕代遠等領導下，在平江縣城舉行了起義。與此同時，駐平江縣嘉義鎮的黃公略和駐岳陽的第5師隨營學校代校長賀國中（共產黨員）也率部起義。

起義取得了成功，駐守平江的敵人被消滅。平江縣成立了蘇維埃政府；起義部隊改編為中國工農紅軍第5軍，彭德懷任軍長，滕代遠任黨代表，鄧萍為參謀長，同時建立中共紅5軍委員會，鄧萍任書記（1935年2月27日，鄧萍在指揮攻打遵義老城時犧牲，年僅27歲）。

平江起義后，遭到敵人重兵圍攻。8月1日，紅五軍撤出平江縣城，在平江周圍幾縣進行游擊戰爭，開辟湘鄂贛革命根據地。
8月初，紅5軍軍委決定，由黃公略率領第2縱隊留在平江、瀏陽一帶堅持游擊戰爭，彭德懷、滕代遠率領紅5軍主力向瀏陽、萬載邊境發展，相機南下，以便與井岡山的紅四軍取得聯絡。與朱毛領導的紅四軍聯絡，是湖南省委的意見，也是他們向往的事情。井岡山是1927年大革命失敗后中國共產黨在農村建立的第一個革命根據地，是紅軍的一面紅旗，當然是革命者都向往的地方。
8月下旬，彭德懷、滕代遠率主力部隊冒著酷暑從黃金洞出發，向井岡山方向轉移。一路上，他們邊戰斗邊行軍，歷盡艱辛，9月8日到達萬載大橋。部隊立足未穩，因叛徒告密，遭到兩個團的敵軍三路襲擊，人財均受損失，第一次上井岡山受阻，部隊即退回平修銅邊境休整。整訓后，部隊比以前純潔多了，士氣和戰斗力大大提高。
1928年11月27日，彭德懷、滕代遠率領紅五軍長途奔襲，攻占了萬載縣城，鎮壓了敵首，得到了補給，振奮了士氣。12月，紅五軍經萍鄉的蘆溪、宣風，抵達蓮花縣九都村。獲悉紅五軍南下的消息，毛澤東朱德即令紅四軍特務營和獨立營，會同蓮花縣赤衛大隊做好迎接準備。何長工率隊從寧岡出發，經過永新，先于紅五軍進入蓮花縣境內。不久，就接到了紅五軍。為了不驚動周圍的敵人，在何長工等人引導下，紅五軍即刻向井岡山開拔，等永新、萍鄉等地的敵人發覺時，紅五軍的800余人已于12月10日抵達寧岡。當日傍晚，彭德懷、滕代遠、鄧萍等便在紅四軍軍部見到了毛澤東、朱德、陳毅等。12月12日上午，紅五軍與紅四軍在寧岡新城舉行了會師慶祝大會。

毛彭會師，壯大了湘贛邊界的革命力量，也使國民黨當局更加驚恐不安。蔣介石急調湘贛兩省18個團約三萬人，兵分5路對井岡山革命根據地進行第三次“會剿”。
為實施“以外線作戰打破會剿”“圍魏救趙”的策略，也為解決山上人多吃飯難的問題，1月14日，毛澤東、朱德率紅軍主力3600人向贛南轉移，而留下剛上山不久的彭德懷、滕代遠帶領紅五軍的800人和袁文才、王佐的32團留守井岡山，保護傷病員和家屬。對彭德懷來說，明知這是一個艱巨而危險的任務，卻不顧部下反對而接受，若沒有大無畏的氣概和犧牲精神，是做不到的。面對幾十倍于我的強敵，彭德懷率部激戰三日。終因敵眾我寡，加之有叛徒引導敵人從背后偷襲，井岡山幾大哨口相繼失守。彭德懷只好率部從荊竹山突圍。何長工、王佐則率領部分紅軍和群眾轉入深山老林，開展游擊戰爭。1月30日，井岡山失守。

彭德懷率部突圍后，轉戰多地，欲往贛南與毛澤東會合。3月7日，攻克于都縣城，3月中旬攻克安遠縣城。4月在瑞金與毛澤東會師。4月中旬，根據紅四軍前委于都會議決定，彭德懷又率領部分兵力返回，收復了井岡山。