同治十一年（1872年）正月，左宗棠與河州宗教領袖馬占鰲大戰于太子寺，結果清軍兩員大將戰死，然夜半馬卻派子侄肉袒請降，先后繳出馬匹四千余，軍械一萬四千余，后左宗棠向清廷奏請，將馬部改編為三旗，馬仍為統領，由此拉開了“西北群馬”的發跡史。

晚清至民國時，西北地區有幾支強大的回族武裝，他們先后歷經大清、北洋軍閥、馮玉祥和蔣介石等勢力，統治清海、寧夏、甘肅及新疆部分地區數十余年，最具代表性的人物就是馬步芳、馬步青、馬鴻逵和馬鴻賓等，俗稱“西北群馬”，也稱“馬家軍”。
說到“馬家軍”的發跡，這要從左宗棠鎮壓陜甘回民起義說起。太平天國運動時，西北的宗教領袖趁亂自立，左宗棠在平定了太平天國和捻軍起義后，便被派到西北平叛。
1872年，河州宗教領袖馬占鰲和表弟馬海晏，與左宗棠大戰于太子寺，相持之際卻派人前去請降，左馬上接受，并與二馬徹夜長談，直夸他們“明大義，懂軍事”，戰后左扶持二馬成為清政府在西北的代理人，此后逐漸形成了后來的馬家軍。
馬氏發跡后，馬占鰲于1886年去世，其后代又各自形成勢力。馬占鰲之子馬安良，在庚子之變時因護駕有功，深得慈禧重用，爬到了總兵和提督大員的高位，于1920年病逝。
但馬安良五子多與馮玉祥不睦，三子馬廷勷被馮殺害，四子馬廷賢禍害地方，解放后被政府處決。
馬占鰲有個謀士叫馬千齡，其有兩個兒子，長子馬福祿與八國聯軍死拼，戰死于正陽門；次子馬福祥，清末時任甘肅靖遠協副將，駐軍甘肅、青海，清亡后，調任寧夏鎮守使，1916年加封陸軍上將，盤踞在寧夏，正式建立起馬家軍閥統治。
1925年投于馮玉祥門下，1928年又改投老蔣，于1932年病逝于河北。馬千齡有兩個孫子：馬鴻賓（父馬福祿）、馬鴻逵（父馬福祥），這兩兄弟借著家庭勢力，也順理成章地做了寧夏土皇帝。
馬鴻賓在解放戰爭時，率81軍和平起義，后曾擔任過甘肅人民政府的領導，于1960年在蘭州去世。
馬鴻逵在解放后，先是逃到臺灣，但很快受到聯名指控，要他對西北敗局負責。馬一看形勢不妙，就假意說在香港的四姨太病危，拿著電報在陳誠面前哭訴，希望能去看她一眼，被批準后，一到香港就轉身跑去了美國。
他在美國辦了一家牧場養馬，但直到死也沒有加入美國國籍。到1970年病逝前，他嘴里仍在反復念叨，“我死也要回去”，蛤最終病逝于美國。
馬占鰲表弟馬海晏，很有軍事才能，他帶著兩個兒子馬麒、馬麟在青海為官，在他死后，其子共掌青海大權。
馬海晏有兩個孫子特別出名，一個是馬步青（馬麒長子），為甘馬首領，另一個則是青海王，大名鼎鼎的馬步芳（馬麒之子）。
馬步芳11歲時跟隨全家來到青海，從小習武長大，會打一套漂亮的六路徒手拳，15歲加入軍官訓練團，開始接受軍事訓練。
他膽識過人，據說第一次騎摩托車，什么也不問，騎上就走，速度超快，連馬隊都跟不上他。18歲時，他就當上了營長，1926年與父親、哥哥一起投奔了馮玉祥的西北軍，一直干到師長。
1930年中原大戰時，馬麒父子眼見馮玉祥敗北，轉身投向老蔣懷抱。但與老蔣矛盾也頗深，馬氏作為家族割據勢力，一直是老蔣的心病。
老蔣曾派胡宗南收復青海，但在馬步芳的攪局下，始終不能成，后來又利用孫殿英去青海當屯墾督辦，結果被馬家軍打退，就是在寧夏發生的“四馬拒孫”之戰。
西北群馬之間，為了權力也是明爭暗斗，但一旦有外來威脅，他們總能一致對外，而且他們用人的標準也是一貫的，即甘、河、回、馬，也就是甘肅人、河州人、回族、馬姓，權力更替則采用封建式的父死子繼、兄終弟及的家族繼承制。
馬步芳為人兇殘，荒淫無度，1936年，馬氏兄弟圍剿紅軍西路軍，殺害一萬多人，其中有大批女戰士遭到凌辱，西北有民歌唱道：“上山的老虎下山的狼，兇不過青海的馬步芳。”
不過再兇殘，到解放戰爭時也再囂張不起來了。馬步青一家先是逃往重慶，后經香港逃至臺灣定居，于1977年在臺灣病逝。
馬步芳到臺后，對于西北敗局也難逃其咎，便以去麥加朝覲為由請假，先前往香港，后帶著家屬及部下兩百余人，包了三架專機，飛往沙特利雅得。
完成朝覲后，于次年遷居開羅，并購買了一座奢華的公寓作為私宅，跟隨他的人員則住在一棟13層的樓房里，他還開了一家舞廳和三家酒店，以作為生活來源。
1957年，馬步芳出任臺灣駐沙特“大使”，他們又全體遷居利雅得。在閑暇之余，他請家庭教師教授阿拉伯語，請人讀《古蘭經》，平時常對身邊人說：“到哪個山里砍哪個柴”。
1975年4月，馬步芳聽聞老蔣過逝，哀痛不已，引發舊疾，一病不起，于7月31日病逝。
死前，他已經說不出話了，用顫抖的手指指天，指指地，又指指自己的心，老淚縱橫，一命歸西。
特定的歷史環境造就了“西北群馬”，時過境遷，他們也隨著歷史逐一消散。