根据铁路运量持续迅速增长的需要，在建设新铁路的同时，对既有铁路不断进行了技术改造以提高运输能力。在单线改造方面，五十年带曾把南同蒲全线窄轨改成标准轨距，并连同北同蒲按一级干线标准进行改建，六十年代起又对黔桂铁路进行了改造。在增建第二线方面，五十年代至六十年代初，完成第二线工程约4，000公里，以后又在一些干线上分段修建，其中京沈、哈大等铁路在五十年代全线建成双线。京广铁路北京至衡阳段、陇海铁路郑州至宝鸡段以及津浦铁路等的第二线也陆续修通。为了配合京广铁路北段的第二线建设，1960年在黄河上兴建了郑州黄河新桥。此外，在牵引动力方面，全国主要干线的旅客列车都已用内燃机车牵引，货物列车采用内燃机车牵引的比重也逐步提高。到1978年底，内燃机车牵引的线路达7，000多公里。