伴著解放戰(zhàn)爭彌漫的硝煙，隨著時代列車鏗鏘的節(jié)奏，1949年8月20日，在共和國成立的前夕，太原鐵路機械學校的前身--太原鐵路管理局職工學校，帶著為百廢待興的新中國培養(yǎng)鐵路人才的歷史使命，在太行大地，黃河之濱誕生了。

初建的職工學校在一無經驗、二缺設備的情況下開始工作。師生們一邊參加建校勞動，一邊開始上課。校址設在并州西路4號。

1951年1月，趙辛培同志成為學校第一位專任校長，兼任黨總支書記，學校改名為“太原鐵路技工學校”，開始招收部分社會青年，同時開設的“司機養(yǎng)成所”設在海子邊。同年9月，鐵道部在機構改組中，撤銷了太原鐵路管理局，學校劃歸天津鐵路管理局領導，并更名為“天津鐵路管理局太原鐵路中級技術學校”，設有工務、商務、機務、運輸等專業(yè)。

1953年1月，根據全國統(tǒng)一部署，鐵道部將學校調整為經濟類專業(yè)學校，更名為“太原鐵路學校”，歸屬太原鐵路管理局管理，設置了會計、統(tǒng)計、材料技術供應三個專業(yè)，招收的學員全部為初中畢業(yè)生。1954年，學校由并州路遷往塢城路。

1955年9月，學校更名為“太原鐵路運輸經濟學校”，歸鐵道部直接領導。

1957年4月，在鐵道部召開的全國鐵路中專校長會上，決定將大同鐵路運輸機械學校與太原鐵路運輸經濟學校合并。同年7月，學校更名為“鐵道部太原鐵路運輸機械學校”。

1958年，學校由1955年以來鐵道部直接領導，改為鐵道部主管業(yè)務，日常行政歸太原鐵路局分管的雙重領導。同年7月，根據上級黨委決定，學校正式成立了“太原鐵路大學”。1959年4月，學校改為“太原鐵道學院”。1960年7月，根據全國鐵路會議決定，更名為“太原鐵路學院”。1962年，大學停辦，并撤銷了附設三年的太原鐵路技工學校，學校又恢復為中專學校。同年4月，學校中專部奉命改名為“太原鐵路機械學校”。

從1963年4月起，學校由原太原鐵路局領導再次改為由鐵道部直接領導，在此后7年時間里，學校一直是鐵道部直屬的唯一一所中等專業(yè)學校。

1969年，鐵道部下發(fā)文件決定學校停辦，改建為工廠，名稱為“鐵道部太原機車車輛機械工廠”。1970年7月，鐵道部與交通部、郵電部所屬郵政部分合并，成立新的交通部，鐵路由交通部領導。1972年4月，交通部下發(fā)文件撤銷“太原機車車輛機械工廠”，劃歸太原鐵路局，籌建太原鐵路中等專業(yè)技術學校。

1973年3月，交通部批準，由太原鐵路中等專業(yè)技術學校負責籌建、成立“太原鐵路司機學校”。同年底，太原鐵路中等專業(yè)技術學校，改名為“太原鐵路機械學校”。學校對外兩塊牌子，同時招收中專、技工兩類學生。1975年1月，國家恢復成立了鐵道部。

1983年底，太原鐵路局撤銷，太原鐵路機械學校的行政歸屬由太原鐵路局改為北京鐵路局。

2005年3月，太原鐵路機械學校由北京鐵路局整建制劃歸太原鐵路局管理。同年10月，太原鐵路局與山西省教育廳簽署太原鐵路機械學校屬地化管理協(xié)議，學校正式移交到地方，翻開了太原鐵路機械學校辦學歷史嶄新的一頁。