1927年，南京国民政府成立，将交通部南洋大学改名为交通部第一交通大学，将交通大学唐山学校更名为交通部唐山大学，将北京交通大学改名为交通部第三交通大学。

1928年，南京国民政府增设了铁道部后，将设在上海、北平（北京）、唐山3个地方的交通大学各学院再次统一起来，统称为铁道部交通大学。当时的铁道部部长孙科兼任铁道部交通大学的校长职务。副校长则由毕业于美国哥伦比亚大学和宾夕法尼亚大学的广东人黎照寰担任。

1937年抗日战争爆发后，在上海的交通大学曾经转移到重庆，抗战胜利后回到上海。1956年，在上海的交通大学曾经搬迁到西安。1957年，国家将这所交通大学分为两部分，在西安的部分命名为西安交通大学，在上海的部分命名为上海交通大学，直至今天。