梁從學出生于1903年，安徽六安人，出生于一個貧寒的農民家庭。因為家庭貧困，所以梁從學沒有讀書，九歲的時候，他開始放牛，后來又給地主做工，小小年紀就飽嘗生活的艱辛。1929年，26歲的梁從學參加了當地的農民協會，同年，他加入了我黨，成為一名光榮的黨員。

1930年，梁從學參加了紅軍。參加紅軍之后，他先后擔任了六安縣紅軍獨立團1營2連排長、紅25軍74師222團連政治指導員、紅4軍第12師34團1營3連副連長等職務，跟隨紅四方面軍參加了鄂豫皖根據地的反“圍剿”作戰。

1932年10月，梁從學跟隨紅四方面軍離開鄂豫皖根據地，準備轉戰川陜一帶。不過，在穿越平漢路時，梁從學負傷，只能留守根據地。留守根據地期間，他參與了紅25軍的重建，擔任了紅25軍第74師師長，并參加了火炮嶺、葛藤山、凌云寺、長嶺崗等戰斗。

1934年11月，紅25軍離開鄂豫皖根據地，開始了長征。梁從學繼續留守根據地，擔任了鄂東北獨立團副團長、紅28軍245團團長等職務，期間，他在鄂豫皖根據地堅持了三年游擊戰，策應了紅軍主力部隊的長征。

1937年，抗日戰爭全面爆發后，南方八省的游擊紅軍改編為新四軍。同時，中央也派出一批干部重返豫鄂一帶，改編留守紅軍。1938年，新四軍第4支隊成立，梁從學改任新四軍第4支隊游擊縱隊縱隊長，此后他率部參加了開辟淮南津浦路西抗日根據地的斗爭，與日本侵略者進行了不屈不撓的斗爭。

1941年，皖南事變之后，新四軍軍部重建，梁從學改任新四軍第2師第4旅旅長、第2師副師長等職務，率部參加了金牛山、大橋等戰斗。抗日戰爭勝利后，梁從學擔任了淮南軍區副司令員兼參謀長，指揮部隊轉戰江淮地區，參加了豫東、淮海以及渡江等戰斗。

尤其是在渡江戰役中，梁從學率部組織完成大量修橋筑路任務，支援了前線的戰斗，為渡江戰役的勝利奠定了堅實的基礎。渡江戰役之后，梁從學留在皖北軍區，參與組織了大別山腹地的剿匪工作，穩定了社會秩序，鞏固了新生的政權。

新中國成立后，梁從學擔任了皖北軍區司令員、江蘇軍區司令員等職務。江蘇軍區改為江蘇省軍區后，梁從學繼續擔任司令員一職，1955年授銜時，他被授予中將軍銜，成為開國中將。授銜之后，梁從學繼續投身我軍的各項建設，尤其是在戰備訓練等方面，做了大量卓有成效的工作。

值得一提的是，革命時期，梁從學總是身先士卒，沖鋒在前，舍生忘死，憑借一股大無畏的精神，馳騁沙場幾十年。在這幾十年光輝歷程中，梁從學先后負傷十三次，新中國成立后，伴隨著年齡的增長，梁從學的身體也大不如以前，因此，在授銜之后9年，也就是1964年，梁從學離職休養。

離職休養后，梁從學并沒有閑著，他依然關心我軍的建設，并力所能及地為我軍的建設獻言獻策，提出建設性的意見與建議。晚年的梁從學主要生活在南京，1973年，梁從學因病去世，享年70歲。