1950年由中国人民解放军铁八师医院与四局直属机关医院合并“铁道部三家店医院”参加朝鲜战争。
医院地点:北京市三家店。
1964年抗美援朝回国后命名为“华北局直属机关医院”。
1966年随华北局迁往云南富源县。
1970年5月由华北局直属机关医院和局防疫站并归华北局铁二处组建“二处医院”。
医院地点:湖南省廻龙县,后迁至湖南省大庸县(今张家界市)。
1978年迁至安徽省凤台县。
1981年1月1日迁至安徽省阜阳地区更名为“铁四局二处工地医院”。
1984年10月在阜阳幸福路兴建病房楼。
1986年5月正式迁至阜阳。
1999年更名为“铁四局第二医院”。
2000年集团公司改制命名 “中铁四局集团第二医院”。
2014年2月15日医院新院区一期开工建设。
新院地点:颍东区阜胡路966号。
2015年7月17日完成改制后更名为“中国中铁阜阳中心医院”。
2016年9月28日新院区正式开诊。
2019年2月20日医院新院区二期开工建设。
2021年6月6日新院区二期封顶。
2021年9月1日更名为中铁阜阳医院