第24集團軍1941年6月在西伯利亞軍區首次組建，直屬最高統帥部大本營。1941年7月，集團軍轄步兵第52、第53軍和炮兵、工程兵等兵團(部隊)，進至維亞濟馬地域，繼續留作最高統帥部大本營預備隊，奉命構筑涅利多沃、別雷、多羅戈布日防御地區，并將主力集中于斯摩棱斯克、維亞濟馬方向。

7月15日，編入后備方面軍，7月21日至29日，與西方面軍軍團和兵團協同作戰，扼守別雷、多羅戈布日和葉利尼亞地區。集團軍在防御戰役進程中，實施兩次反突擊；戰役初期，集團軍協同第37集團軍，以右翼兵力對從北面包圍斯摩棱斯克的德軍重兵集團實施了第一次突擊，并阻止了德軍的進攻。戰役即將結束時，又以左翼兵力對由葉利尼亞地域向多羅戈布日進攻的德軍集團實施了第二次突擊。

第24集團軍司令拉庫京少將，1941年7-10月任職

7月30日，第24集團軍轉隸預備隊方面軍，8—9月，在其編成內參加葉利尼亞戰役。戰役進程中，在葉利尼亞地域重創德軍，清除了葉利尼亞突出部。在這次戰役中，蘇軍產生了第一批近衛部隊，9月18日步兵第100師改為近衛步兵第1師，9月26日步兵第107師和步兵第120師分別改為近衛步兵第5師和近衛步兵第6師。爾后，第24集團軍扼守葉利尼亞以西和西南防御地區。10月1日該集團軍轄6個步兵師、2個坦克旅、6個炮兵團、2個反坦克炮兵團和1個航空兵師等。10月上半月，集團軍兵團和部隊因敵優勢兵力的翼側突擊，于維亞濟馬以西地域，先后陷入半合圍和合圍狀態，被迫進行艱苦的防御戰斗。到10月20日，集團軍野戰領率機關被撤銷，而其突圍成功的兵團和部隊則用以補充西方面軍其他兵團和部隊。

電影莫斯科保衛戰中朱可夫與指揮官們進入葉利尼亞

12月9日集團軍在莫斯科軍區第二次組建，1942年1月4日改為1-ю резервную армию預備隊第1集團軍（第二次組建），不過沒有配屬部隊

1942年5月在南方面軍戰役集群基礎上第三次組建，8月部隊轉隸第12和第37集團軍，野戰領率機關8月28日改為第58集團軍野戰領率機關。6月1日該集團軍轄4個步兵師和2個工兵營

8月底在預備隊第9集團軍基礎上第四次組建，參加斯大林格勒會戰，9月1日下5個步兵師、1個坦克旅、2個炮兵團、1個反坦克炮兵團、2個高射炮兵團等。1943年2月編入最高統帥部預備隊。1943年4月16日改為近衛第4集團軍。

1942年10月蘇軍在斯大林格勒作戰

近衛第4集團軍自 8 月 13 日起，該軍作為沃羅涅日方面軍的一部分，參加了別爾哥羅德-哈爾科夫進攻行動和第聶伯河戰役。1943 年 11 月至 12 月，在烏克蘭第二方面軍編成內參加了在克里沃羅格方向擴大第聶伯河右岸橋頭堡的戰斗。隨后參加了基洛夫格勒、科爾松-舍夫琴科夫斯基、烏曼-博托沙尼和雅西-基什尼奧夫進攻行動。之后，它成為最高統帥部預備隊。

1944年8月雅西-基什尼奧夫戰役中蘇軍T-34-76坦克掩護步兵進攻

1944 年 11 月初，它被調往烏克蘭第三方面軍，參加了布達佩斯、巴拉頓和維也納戰役。1945年6月轄近衛步兵第20、21和第31軍，共9個近衛步兵師，同年12月近衛步兵第20軍轉隸近衛第7集團軍，調來近衛步兵第25軍。1945年6月-1946年8月駐奧地利。1946年5月近衛步兵第31軍撤銷番號，1947年4月近衛步兵第21軍撤銷番號。1947年5月該集團軍轄近衛步兵第10軍（立陶宛基什涅夫，轄近衛機械化第33師和近衛步兵第59和第86師）、近衛步兵第24軍（提拉斯波爾，轄近衛機械化第35師和近衛步兵第180師）、近衛步兵第82軍（敖德薩，轄近衛機械化第34師和近衛步兵第28師），1948年4月20日撤銷番號。

1945年3月布達佩斯戰役擊毀和繳獲的德軍各型StuG III自行反坦克炮，左面是Marder黃鼠狼III自行反坦克炮

近衛第4集團軍戰史記載，該集團軍在戰爭中殲敵28萬余人（俘虜10萬余人），摧毀和繳獲 2700 輛坦克和強擊火炮、870輛裝甲車、4625門火炮、1880門迫擊炮、14200挺機槍、415架飛機、27 400輛汽車等。