Walaupun demikian, Roem tak lulus tes sekolah kedokteran, kemudian ia berpindah masuk Rechtshoogeschool te Batavia (RHS) pada tahun 1932 dan berhasil memperoleh gelar Meester in de Rechten (Mr.) pada tahun 1939.
Roem aktif pada sejumlah organisasi perjuangan kemerdekaan, di antaranya Obligasi Jong Islamieten, Sarekat Islam, dan selama periode Agresi Militer Belanda I dan Agresi Militer Belanda II, Roem merupakan delegasi Indonesia dalam Perundingan Linggarjati dan Perjanjian Renville, kemudian Roem menjadi pemimpin delegasi Indonesia dalam Perjanjian Roem-Roijen.
Selepas Indonesia menerima pengakuan penuh dari Belanda, Mr. Roem mengisi beberapa posisi menteri pada Kabinet Sjahrir III, Kabinet Natsir, Kabinet Wilopo, dan Kabinet Ali Sastroamidjojo II. Ia juga aktif sebagai tokoh Partai Masyumi.
