自1931年“九.一八”事變后，張學良的國民黨政府軍隊實行不抵抗政策，退回關內，把東北的大好河山和三千萬同胞拱手相讓給日本侵略者。

東北地區的廣大愛國同胞，不甘心國土淪落，不愿意做亡國奴。他們自發組織，建立武裝，奮起反抗，打擊日寇。他們先后成立了“東北抗日義勇軍”、“東北反日游擊隊”和“東北人民革命軍”等等，與侵略者展開生死搏殺。著名的《義勇軍進行曲》，就是在這個時期誕生的，后來成為中華人民共和國國歌。

從1936年開始，在中國共產黨領導下，把當時東北地區的各支抗日武裝力量進行整合組織，成立了“東北抗日聯軍”，東北各路抗日武裝都加入了抗日聯軍。到1937年“七七事變”后，東北抗日聯軍共編成了11個軍，部隊達到25000至30000余人。其中，第1軍到第7軍，是中共直接領導的抗日武裝，軍長政委都是共產黨員；第8軍到第11軍，是收編的各個非黨抗日武裝。

這個時期，是抗日聯軍的鼎盛時期。抗日聯軍各個軍之間，通過無線電臺聯絡和傳遞情報信息。京劇《紅燈記》（原型是電影《自有后來人》）中的東北抗日聯軍的中共地下黨員李玉和，就是為了掩護、傳遞和保護抗日聯軍電臺的“密電碼”時，被日本憲兵隊抓捕后寧死不屈壯烈犧牲的。他的女兒李鐵梅繼承父親遺志，把密電碼交給了抗日聯軍交通員，最后密電碼歷經艱難曲折，最終到達了抗日聯軍大本營。

東北地區屬于高寒地帶，冬天山區氣溫能夠達到零下三四十度，戶外人類生存困難。東北抗日聯軍就是在這樣艱苦的環境中，與日本侵略者戰斗。他們翻山越嶺，風餐露宿，缺少補給，饑寒交迫 ，傷亡嚴重……日本侵略者實行并屯聯保策略（大山里所有山民集中到大村鎮，房屋燒毀；十家連保，一家通抗聯，另外九家連坐），切斷抗日聯軍的糧食和衣服供應。夏天抗日聯軍還能堅持，冬天大雪封山，抗日聯軍缺衣少食，基本上彈盡糧絕。在這樣的環境中，能夠堅持斗爭，消滅敵人，常人難以想象。

到了1938年冬天，東北抗日聯軍與日本侵略者在冰天雪地里戰斗，最后只剩下共產黨直接領導的隊伍5000余人。其它性質的抗日武裝經不住日軍的圍剿和惡劣的天氣，大部分打散瓦解或變節投敵。到1940年冬天，東北抗日聯軍只剩下不到1000人。

1940年1月，抗日聯軍第一軍軍長楊靖宇帶領50多人的部隊，被關東軍重兵圍困，分散突圍中，在吉林省濛江縣三道崴子地區壯烈犧牲，時年35歲。其它抗聯部隊也損失慘重，建制基本被打散，干部基本犧牲或被俘。抗日聯軍總司令趙尚志也于1942年初作戰時英勇殉國。最后，剩下為數不多的抗日聯軍從黑龍江地區越過中蘇邊境，進入蘇聯。少量的抗日聯軍火種，在蘇聯境內得以保留下來。

蘇聯方面將越過邊境的中國抗日聯軍編為了一個教導旅，開始有1000余人。任命周保中（抗日聯軍第五軍軍長）為旅長，李兆麟（抗日聯軍第三軍軍長）為政治委員。1942年9月，教導旅召開全體中共黨員大會，成立了“獨立步兵旅中共東北黨組織特別支部局(東北黨委會)”。

至此，東北抗日聯軍的稱號雖然沒了，但東北抗日聯軍的革命火種保存了下來。在1945年8月蘇聯紅軍向東北關東軍的進攻中，抗日聯軍將士組成的教導旅隨蘇聯紅軍一起，參與了消滅日本關東軍的戰斗，回到祖國。