Museum Taman Prasasti awalnya digunakan sebagai pemakaman khusus orang asing di Batavia. Makam dengan nama Kebon Jahe Kober ini berdiri pada tanggal 28 September 1975. Saat itu kondisi kota Batavia sangat padat dan tidak sehat, menyebabkan banyak warga yang terserang wabah penyakit. Proses kematian berjalan cepat, sehingga halaman gereja tidak mampu menampung banyaknya makam. Pemerintah kota lalu mencari lahan pemakaman baru diluar kota arah selatan. Lokasi pemakaman Kebon Jahe cukup strategis dengan area seluas 5,5 hektare, didekat sungai Krukut. Sungai ini dimanfaatkan untuk membawa jenazah dan kerabat pengantar dengan puluhan perahu dari pusat kota menuju Kebon Jahe. Setelah mengarungi sungai , Jenazah dibawa dengan kereta menuju pemakaman ini dikhususkan bagi pegawai kompeni dan orang-orang yang disetarakan dengan orang Belanda. Hal itu terus berlanjut hingga pemerintahan VOC berakhir, bahkan saat Indonesia kembali ke tangan Belanda dan Jepang. Kebon jahe berkembang menjadi pemakaman yang prestisius karena banyak orang yang terkenal yang dimakamkan disana baik pejabat penting, pelaku sejarah, hingga selebritis pada masanya pemakaman Kebon Jahe Kober diresmikan sebagai Museum Prasasti pada tanggal 9 Juli 1977. Sebelum diresmikan, selama 2 tahun dilakukan pengangkatan rangka pada keseluruhan makam. Rangka-rangka tersebut sebagian ada yang dikembalikan pada pihak keluarga dan dibawa kenegara asal, dan sebagian lagi dipindahkan ke pemakaman Menteng Pulo. Saat ini luas lahan mengalami penyempitan menjadi 1,3 ha.