伴著解放戰(zhàn)爭彌漫的硝煙，隨著時代列車鏗鏘的節(jié)奏，1949年8月20日，在共和國成立的前夕，太原鐵路機械學(xué)校的前身--太原鐵路管理局職工學(xué)校，帶著為百廢待興的新中國培養(yǎng)鐵路人才的歷史使命，在太行大地，黃河之濱誕生了。

初建的職工學(xué)校在一無經(jīng)驗、二缺設(shè)備的情況下開始工作。師生們一邊參加建校勞動，一邊開始上課。校址設(shè)在并州西路4號。

1951年1月，趙辛培同志成為學(xué)校第一位專任校長，兼任黨總支書記，學(xué)校改名為“太原鐵路技工學(xué)校”，開始招收部分社會青年，同時開設(shè)的“司機養(yǎng)成所”設(shè)在海子邊。同年9月，鐵道部在機構(gòu)改組中，撤銷了太原鐵路管理局，學(xué)校劃歸天津鐵路管理局領(lǐng)導(dǎo)，并更名為“天津鐵路管理局太原鐵路中級技術(shù)學(xué)校”，設(shè)有工務(wù)、商務(wù)、機務(wù)、運輸?shù)葘I(yè)。

1953年1月，根據(jù)全國統(tǒng)一部署，鐵道部將學(xué)校調(diào)整為經(jīng)濟類專業(yè)學(xué)校，更名為“太原鐵路學(xué)校”，歸屬太原鐵路管理局管理，設(shè)置了會計、統(tǒng)計、材料技術(shù)供應(yīng)三個專業(yè)，招收的學(xué)員全部為初中畢業(yè)生。1954年，學(xué)校由并州路遷往塢城路。

1955年9月，學(xué)校更名為“太原鐵路運輸經(jīng)濟學(xué)校”，歸鐵道部直接領(lǐng)導(dǎo)。

1957年4月，在鐵道部召開的全國鐵路中專校長會上，決定將大同鐵路運輸機械學(xué)校與太原鐵路運輸經(jīng)濟學(xué)校合并。同年7月，學(xué)校更名為“鐵道部太原鐵路運輸機械學(xué)校”。

1958年，學(xué)校由1955年以來鐵道部直接領(lǐng)導(dǎo)，改為鐵道部主管業(yè)務(wù)，日常行政歸太原鐵路局分管的雙重領(lǐng)導(dǎo)。同年7月，根據(jù)上級黨委決定，學(xué)校正式成立了“太原鐵路大學(xué)”。1959年4月，學(xué)校改為“太原鐵道學(xué)院”。1960年7月，根據(jù)全國鐵路會議決定，更名為“太原鐵路學(xué)院”。1962年，大學(xué)停辦，并撤銷了附設(shè)三年的太原鐵路技工學(xué)校，學(xué)校又恢復(fù)為中專學(xué)校。同年4月，學(xué)校中專部奉命改名為“太原鐵路機械學(xué)校”。

從1963年4月起，學(xué)校由原太原鐵路局領(lǐng)導(dǎo)再次改為由鐵道部直接領(lǐng)導(dǎo)，在此后7年時間里，學(xué)校一直是鐵道部直屬的唯一一所中等專業(yè)學(xué)校。

1969年，鐵道部下發(fā)文件決定學(xué)校停辦，改建為工廠，名稱為“鐵道部太原機車車輛機械工廠”。1970年7月，鐵道部與交通部、郵電部所屬郵政部分合并，成立新的交通部，鐵路由交通部領(lǐng)導(dǎo)。1972年4月，交通部下發(fā)文件撤銷“太原機車車輛機械工廠”，劃歸太原鐵路局，籌建太原鐵路中等專業(yè)技術(shù)學(xué)校。

1973年3月，交通部批準(zhǔn)，由太原鐵路中等專業(yè)技術(shù)學(xué)校負責(zé)籌建、成立“太原鐵路司機學(xué)校”。同年底，太原鐵路中等專業(yè)技術(shù)學(xué)校，改名為“太原鐵路機械學(xué)校”。學(xué)校對外兩塊牌子，同時招收中專、技工兩類學(xué)生。1975年1月，國家恢復(fù)成立了鐵道部。

1983年底，太原鐵路局撤銷，太原鐵路機械學(xué)校的行政歸屬由太原鐵路局改為北京鐵路局。

2005年3月，太原鐵路機械學(xué)校由北京鐵路局整建制劃歸太原鐵路局管理。同年10月，太原鐵路局與山西省教育廳簽署太原鐵路機械學(xué)校屬地化管理協(xié)議，學(xué)校正式移交到地方，翻開了太原鐵路機械學(xué)校辦學(xué)歷史嶄新的一頁。