Karena pilihannya itu, Imam Abu Hanifah dimasukkan ke dalam penjara.
Hari-hari Imam Abu Hanifah di penjara diisi dengan siksaan. Setiap pagi, tubuhnya dicambuk. Lehernya juga dikalungi rantai besi yang berat. Namun, hukuman itu tidak membuatnya menerima jabatan yang sejak awal ia tolak.
Adapun alasan Imam Abu Hanifah menolak tawaran dari pemerintahan pada masa Daulah Umayyah dan Abbasiyah adalah karena ia tidak sejalan dengan corak pemerintahan yang mereka jalankan.
Meski pemerintah berusaha mengajaknya bekerja sama dan mengikuti kebijakan mereka, Imam Abu Hanifah tetap teguh pada pendiriannya.
Sampai suatu ketika, Imam Abu Hanifah dipanggil untuk menghadap khalifah. Ia datang ke hadapan Abu Ja'far Al-Mansur. Di sana, ia diberi segelas air yang disebut berisi racun. Imam Abu Hanifah pun dipaksa meminumnya.