Saigon là nơi có đường xe lửa đầu tiên ở Đông Dương, đường tramway Saigon-Chợ Lớn chạy bằng hơi nước khánh thành ngày 27/12/1881, chỉ sau 20 năm khi Pháp chiếm Saigon và lúc đó thành phố vẫn còn đang trong thời kỳ quy hoạch phát triển ở trung tâm. Đường Nguyễn Huệ chưa có và vẫn còn là một con kinh, gọi là kinh Lớn hay kinh Chợ Vãi. Giữa thành phố Saigon và Chợ Lớn đa số vẫn còn là đồng ruộng và cánh đồng mả (plaine des tombeaux), đường Trần Hưng Đạo chưa có. Phương tiện di chuyển và chuyên chở hàng hoá chính giữa Saigon-Chợ Lớn là dựa vào thuyền ghe qua kinh rạch và qua đường đi bộ hay xe ngựa trên route Haute (đường trên) nối Saigon với Chợ Lớn trên rue de Cay-mai (đường Cây Mai hay Nguyễn Trãi ngày nay).

Khánh thành đường xe lửa tramway Saigon đi Chợ Lớn chạy bằng hơi nước trên Đường trên (route haute) năm 1881 đánh dấu sự khởi đầu của lịch sử hoả xa ở Việt Nam và sự đi xuống của phương tiện giao thông qua kênh rạch. Năm 1885, đường xe lửa Saigon-Mỹ Tho đi vào hoạt động và Mỹ Tho trở thành tâm điểm giao thông từ miền Tây Nam bộ. Và hai năm sau, năm 1887 kênh Lớn được lấp trở thành đại lộ Charner (Nguyễn Huệ) và nhiều kênh rạch khác ở Saigon và chung quanh sau đó cũng được lấp dần.

Lịch sử hoả xa ở Saigon từ xe lửa hơi nước đến xe điện từ cuối thế kỷ 19 đến thập niên 1950 của thế kỷ 20 là thời kỳ hoàng son của xe lửa là phương tiện chuyên chở giao thông chính. Trạm xe lửa Saigon, tức ga Saigon, đầu tiên (1885-1915) có vị trí ở đầu đường rue de Canton (Hàm Nghi ngày nay) gần sông Saigon, đến năm 1915 thì dời đến ngay trung tâm gần chợ Bến Thành ngày nay. Từ cuối thập niên 1900 đến 1950, người Saigon di chuyển đi lại trong Saigon, Chợ Lớn và các ngoại ô như Thị Nghè, Gò Vấp chủ yếu là dùng đường xe lửa hơi nước và xe điện tramway trong các tuyến Saigon-Chợ Lớn, Saigon-Gò Vấp-Hóc Môn-Lái Thiêu.