Dapat dikatakan bahwa secara de-facto hadirnya kerata api di Indonesia ialah dengan dibangunnya jalan rel sepanjang 26 km pada lintas Kemijen-Tanggung yang dibangun oleh NV. Nederlandsch Indische Spoorweg Maatschappij (NIS). Pembangunan jalan rel tersebut dimulai dengan penyangkulan pertama pembangunan badan jalan rel oleh Gubernur Jenderal Belanda Mr. L.A.J. Baron Sloet Van De Beele pada hari Jum’at tanggal 17 Juni 1864. Jalur kereta api lintas Kemijen-Tanggung mulai dibuka untuk umum pada hari Sabtu, 10 Agustus 1867. Sedangkan landasan de-jure pembangunan jalan rel di jawa ialah disetujuinya undang-undang pembangunan jalan rel oleh pemerintah Hindia Belanda tanggal 6 April 1875.
Dengan telah adanya undang-undang pembangunan jalan rel yang dikeluarkan oleh pemerintah Hindia Belanda dan dengan berhasilnya operasi kereta api lintas Kemijen-Temanggung (yang kemudian pembangunannya diteruskan hingga ke Solo), pembangunan jalan rel dilakukan di beberapa tempat bahkan hingga di luar Jawa, yaitu di Sumatera dan Sulawesi.
Namun sejarah jalan rel di Indonesia mencatat adanya masa yang memprihatinkan yaitu pada masa pendudukan Jepang. Beberapa jalan rel di pulau Sumatera dan pulau Sulawesi serta sebagian lintas cabang di pulau Jawa dibongkar untuk diangkut dan dipasang di Burma (Myanmar). Bahkan pemindahan jalan rel ini juga disertai dengan dialihkannya sejumlah tenaga kereta api Indonesia ke Myanmar. Akibat tindakan Jepang tersebut ialah berkurangnya jaringan jalan rel di Indonesia. Data tahun 1999 memberikan informasi bahwa panjang jalan rel di Indonesia ialah 4615,918 km, terdiri atas Lintas Raya 4292,322 km dan Lintas Cabang 323,596.