上海南站设计非常独特，从外观看好似一个飞碟，南站的底楼是火车停靠站；一楼就是候车室；二楼是进站口，被设计成环行并包围整个候车室。
清光绪三十四年四月（1908年4月），建上海南火车站。
1912年8月11日由华商电气公司开通小东门——南火车站的1路有轨电车（于1916年全线通车）
1918年1月13日由华商电气公司开通老西门——高昌庙的4路有轨电车经过本站
由于两个车站分别位于城市南北两侧，有所不便，于是在1916年，在城市西侧修建了沪杭甬铁路与沪宁铁路的连接线（沪新铁路），上海北站成
为铁路沪宁、沪杭甬两路总站，而上海南站仍是长江三角洲地区货运量最大的火车站。