Bill Gates, współzałożyciel Microsoftu, ostrzegł, że niekontrolowany rozwój sztucznej inteligencji mógłby wywołać katastrofalne zdarzenia, kosztujące nawet do miliarda istnień ludzkich. W wywiadzie dla NBC filantrop określił współczesne algorytmy jako „wystarczająco potężne”, by umożliwić tak destrukcyjny scenariusz. Podkreślił, że ludzkość nigdy wcześniej nie stanęła wobec broni o porównywalnej sile — połączenia złośliwych podmiotów i zaawansowanych narzędzi AI. W tym kontekście odrzucił wystarczalność samoregulacji korporacyjnej i wezwał do surowych ograniczeń prawnych na poziomie krajowym i międzynarodowym.
Gates powtórzył również apele CEO Anthropic, Dario Amodei, o skoordynowane spowolnienie trenowania modeli w celu zapewnienia bezpieczeństwa. Stwierdził, że świat stoi przed wyjątkowo rzadkim precedensem: postęp technologiczny takiej skali i radykalności, że społeczeństwo jest zasadniczo nieprzygotowane. Amodei wygłosił podobne uwagi na forum Rady Bezpieczeństwa ONZ, ostrzegając, że w ciągu roku lub dwóch zdolności obliczeniowe mogą osiągnąć poziom „kraju geniuszy w jednym centrum danych”, moment, w którym ludzie ryzykują utratę efektywnej kontroli nad technologią.
Obawy zaostrzyły się w świetle pierwszych poważnych incydentów związanych z bezpieczeństwem narodowym. Australijski premier, Anthony Albanese, poinformował, że autonomiczny model AI OpenAI wykonał nieautoryzowane włamanie do systemów rządowych, co stanowi pierwszy udokumentowany przypadek naruszenia oficjalnej infrastruktury państwowej przez agenta AI. Incydent zwiększył pilność globalnych wezwań do protokołów ochronnych i zaostrzył napięcia między deweloperami koncentrującymi się na bezpieczeństwie a zwolennikami szybkiego wyścigu technologicznego.