1962年，謝振華正式到六十九軍上任。上級的安排是，謝振華以副軍長的頭銜，做軍長的工作。因為董其武對外還是軍長。該軍由三個師組成，二〇五師、二〇六師、二〇七師。其中二〇七師多為起義部隊戰士。

為了把這支部隊帶好，謝振華完全執行羅瑞卿將軍告訴他的一字方針“練”，他帶領部隊在全軍大比武中“練”；在天津、保定等地抗洪中“練”；在邢臺地區抗震中“練”。

1967年，謝振華接到通知，率六十九軍進駐山西“支左”。相比于在河北省完成的多個重大任務，在山西的工作似乎更加具有挑戰性。那時，謝振華把部隊放在了山西省會——太原，原駐扎在此地的二十一軍調到陜西。

謝振華時刻牢記他的使命：穩定局勢，制止武斗，保持“一碗水端平”，維持社會秩序，減少工農業生產和人民生命財產的損失。

起初，謝振華只負責調度六十九軍，但隨著局勢的發展，在山西的“支左”部隊統統由謝振華來指揮。包括山西軍區、二十八軍、六十三軍、空八軍、北京軍區高炮六十一師等部隊。

這年1月，山西省副省長、省軍區政委，聯手第十三冶金建筑公司工人楊成效，一起奪取了山西的黨政大權。楊成效公開喧嚷：“山西越亂才越好！”面對山西對立的兩大派，謝振華持觀望態度，從善意的角度勸兩方和解。

隨著時間的推移，山西的各地都被分裂開數不清的派別。1968年2月，謝振華親自到長治飛機場，主持晉東南兩派的“停火談判”。

考慮到可能發生的危險，謝振華命人在會場布置了多桿機槍！在謝振華的威勢下，雙方最終達成了一致意見，將武器交給軍隊。類似這種“調停”活動，謝振華參加了很多。

1969年，山西的形勢變得更為嚴峻。為了解決問題，中央直接發布了《七二三布告》，布告很明確的表明，有不少的壞頭頭，犯下了一系列極為嚴重的罪行。中央決定采取8項措施，其中第六項是：“對殺人放火和其他罪大惡極的現行犯罪分子要依法懲處。”

為了使措施能順利執行，中央政治局專門召開了一次會議。在會議前，謝振華被任命為山西省委核心小組組長，與此同時，山西的領導班子大換血，一些挑起紛爭的領導干部，包括副省長、軍區政委等，都被送到了河北學習班。

不久，謝振華被選為山西省委第一書記兼革委會主任。同時，他還是北京軍區副司令兼山西省軍區司令員、山西省軍區黨委第一書記。重擔在身的謝振華，開始了艱難的“撥亂反正”工作。

謝振華從軍多年，深知宣傳工作的重要性。他命令駐扎在太原的飛機，裝上“布告”和其他宣傳品，到那些混亂的地方投放。與此同時，謝振華出動部隊收繳武器，瓦解工事，解散“蝦兵蟹將”。

為了更快穩定局勢，謝振華放出大招，若是在規定時間內，沒有按照布告上面的執行，工人、職工停發工資。在謝振華的努力下，之前混亂的山西，逐步恢復了社會秩序。

這段時間，謝振華還干了一件令人拍手叫絕的事情。那就是為山西人民除掉了，為禍一方的自稱“山西造反總指揮”的楊成效。楊成效此人出身于偽滿反動官僚家庭，他本人早年不學無術，算是二流子。犯事后，被押入大牢勞改。被放出來后不久，趕上了運動。

楊成效作為運動的急先鋒，干了不少惡事。據悉，這個楊成效還想過在北京外國使館區，投靠叛國。那時候，楊成效囂張至極，把“活著就干，死了就算”作為口頭禪，群眾對他厭惡到了極點。同時，謝振華和六十九軍的戰士們對他也是忍無可忍。

基于楊成效犯的事，違反了布告太多的規定。最后，經過調查，給楊成效定下4條罪狀：“一、迫害老干部致死；二、破壞生產，挑起武斗；三、燒殺奸淫；四、破壞社會治安。”

謝振華將此事上報，建議將其處決。政治局最后批準了此報告，不久，山西省委在太原五一廣場將楊成效公審后，執行了槍決！

雖然謝振華在山西的時間不長，但他的成績是非常明顯的。謝振華自帶革命戰爭年代猛將的氣勢，任何搗亂的家伙在他面前，總會被他鎮住！謝振華執行中央的命令，雖然當時要求解放軍“支持左派”，但謝振華還是依據“一碗水端平”的原則行事。

在他的指揮下，山西混亂的局面得到遏制。謝振華處決楊成效，給那些打著造反旗號，干著違法的頭頭一個警告。

謝振華后來從山西出來，先后擔任沈陽軍區副司令員、昆明軍區政委等職務。2011年8月3日，謝振華病逝，享年95歲。