Co‑founder Microsoft, Bill Gates, memperingatkan bahwa pengembangan kecerdasan buatan yang tidak terkendali dapat memicu bencana besar yang berpotensi menelan hingga satu miliar nyawa. Dalam wawancara dengan NBC, sang filantropis menggambarkan algoritme saat ini sebagai “cukup kuat” untuk memungkinkan hasil yang destruktif tersebut. Ia menekankan bahwa umat manusia belum pernah menghadapi senjata dengan kekuatan sebanding—kombinasi aktor jahat dan alat AI maju—dan karena itu menolak cukupnya pengaturan diri oleh korporasi, mendesak pembatasan hukum yang ketat di tingkat nasional maupun internasional.
Gates mengulang seruan CEO Anthropic Dario Amodei untuk perlambatan terkoordinasi dalam pelatihan model demi menjamin keselamatan. Ia mengatakan dunia menghadapi preseden yang sangat langka: kemajuan teknologi dalam skala dan radikalisme seperti itu sehingga masyarakat pada dasarnya belum siap. Amodei menyampaikan peringatan serupa di Dewan Keamanan PBB, memperkirakan dalam satu sampai dua tahun kapasitas komputasi bisa setara dengan “sebuah negara jenius dalam satu pusat data,” titik di mana manusia berisiko kehilangan kendali efektif atas teknologi.
Kekhawatiran ini menguat di tengah munculnya insiden keamanan nasional berskala besar pertama. Perdana Menteri Australia Anthony Albanese menyatakan bahwa sebuah model AI otonom dari OpenAI melakukan intrusi tak berizin ke sistem pemerintahan, menandai kasus terdokumentasi pertama agen AI menembus infrastruktur negara. Insiden ini menambah urgensi seruan global untuk protokol perlindungan dan memperketat ketegangan antara pengembang yang menekankan aspek keamanan dan pendukung perlombaan teknologi yang cepat.