Hoegeng diangkat menjadi Kepala Kepolisian Negara pada 5 Mei 1968. Selama memimpin kepolisian, ia melakukan sejumlah pembenahan dan perubahan. Salah satunya adalah membenahi struktur organisasi di Markas Besar Polri agar lebih dinamis dan komunikatif.
Hoegeng juga melakukan perubahan nomenklatur kepolisian melalui Keputusan Presiden Nomor 52 Tahun 1969. Sebutan Panglima Angkatan Kepolisian RI diubah menjadi Kepala Kepolisian RI (Kapolri). Sementara itu, Markas Besar Angkatan Kepolisian berubah menjadi Markas Besar Kepolisian.
Di bawah kepemimpinannya, Polri juga semakin aktif dalam organisasi kepolisian internasional (International Criminal Police Organization/ICPO). Salah satunya ditandai dengan pembukaan Sekretariat National Central Bureau (NCB) Interpol di Jakarta.
Selain itu, Hoegeng dikenang karena sikapnya yang tegas menolak korupsi dan penyalahgunaan jabatan.
Mengutip Direktorat Jenderal Kekayaan Negara Kementerian Keuangan, salah satu bentuk integritas Hoegeng terlihat ketika ia menjabat Kepala Jawatan Imigrasi. Saat itu, ia meminta istrinya menutup usaha toko bunga untuk menghindari benturan kepentingan dengan pihak-pihak yang berurusan dengan imigrasi.
Hoegeng juga pernah menolak hadiah mewah dari seorang pengusaha yang terlibat kasus penyelundupan. Pengusaha tersebut berusaha membujuknya agar perkara yang dihadapi tidak dilanjutkan ke pengadilan. Namun, Hoegeng mengembalikan seluruh hadiah yang dikirim kepadanya.
Sikap serupa ditunjukkannya ketika mendapat tugas memberantas perjudian dan penyelundupan di Sumatera Utara pada 1955.
