Karena sistem AI begitu kompleks, perusahaan juga harus membuat berbagai kill switch berbeda untuk tugas yang berbeda-beda. Tim Brown, mantan Kepala Keamanan SolarWinds menyebut hal ini membutuhkan koordinasi lintas pembuat model. "Ada ribuan entitas harus dimatikan," ujarnya.
Masalah logistik baru sekadar puncak gunung es. Salah satu masalah lebih besar adalah ketidakpastian perilaku AI. Seperti insiden peretasan Hugging Face, agen AI dapat menyiasati kontrol dan bertindak ekstrem untuk mencapai tujuan.
"Anda harus bertindak sangat presisi saat menggunakan kill switch. Jika dampaknya terlalu luas atau berlebihan, Anda malah akan mematikan seluruh operasi bisnis," kata Ed Jennings, CEO perusahaan keamanan Darktrace.
Beberapa peneliti berpendapat kill switch merupakan tidak cocok untuk meregulasi AI. Dylan Baker dari Distributed AI Research Institute menyarankan pembuat kebijakan seharusnya memprioritaskan batasan pengaman yang meniru regulasi industri berbahaya seperti tembakau.
Meski begitu, pakar belum menutup kemungkinan rem darurat AI asalkan dilengkapi sistem yang tepat. Itu berarti mengintegrasikan kill switch ke sistem sejak awal pembuatan serta membakukan protokol pemutusan darurat di semua perusahaan.
