Karier politiknya banyak dihabiskan bersama Partai Golkar.

Ia pernah menjabat Ketua DPD Partai Golkar DIY dan Wakil Ketua DPRD DIY periode 2004-2009, sebelum melanjutkan kiprahnya sebagai anggota DPR RI dari daerah pemilihan DIY.

Gandung kembali terpilih sebagai anggota DPR RI untuk periode 2024-2029 melalui Fraksi Partai Golkar.