Melansir laman resmi Asrama Haji Jakarta, pada mulanya Kemenag belum memiliki bangunan sarana penampungan sendiri. Untuk memfasilitasi kebutuhan akomodasi jemaah selama masa karantina, pemerintah terpaksa menyewa gedung-gedung wisma.
Namun, pengeluaran sewa wisma kala itu terhitung amat membengkak, bahkan setara dengan anggaran untuk membangun satu kompleks gedung asrama haji. Di sisi lain, tren transportasi jemaah haji mulai bergeser drastis. Jika sebelumnya didominasi kapal laut di bawah Yayasan Perjalanan Haji Indonesia (YPHI), sejak tahun 1973 jemaah yang terbang menggunakan pesawat melonjak hingga empat kali lipat.
Melihat lonjakan tersebut, pada 1974 Direktur Jenderal Urusan Haji kala itu, Prof. K.H. Farid Ma'ruf, mengusulkan pembentukan Asrama Karantina Haji Indonesia. Melalui Surat Perintah Nomor: SP-08/1974, dibentuklah Tim Perencanaan Pembangunan Asrama Karantina Haji yang bertugas memetakan lokasi penampungan permanen.
Upaya pencarian lahan akhirnya membuah hasil. Gubernur DKI Jakarta saat itu, Ali Sadikin, menerbitkan Surat Keputusan No. 944/A/K/BKD/77 tertanggal 2 Mei 1977 yang memberi izin pemanfaatan lahan seluas ±15 hektar di Jalan Raya Pondok Gede, Kelurahan Pinang Ranti, Kecamatan Makasar, Jakarta Timur.