Spoluzakladatel společnosti Microsoft Bill Gates varoval, že nekontrolovaný rozvoj umělé inteligence by mohl vyvolat katastrofické události, které by mohly stát až miliardu lidských životů. V rozhovoru pro NBC popsal tento filantrop současné algoritmy jako „dostatečně mocné“ na to, aby takový ničivý výsledek umožnily. Zdůraznil, že lidstvo se dosud nikdy nesetkalo se zbraní srovnatelné síly – kombinací zlých aktérů a pokročilých AI nástrojů. V tomto kontextu Gates odmítl spoléhat jen na seberegulaci firem a požaduje přísná právní omezení na národní i mezinárodní úrovni.
Gates podpořil výzvy generálního ředitele Anthropic Daria Amodeiho ke koordinovanému zpomalení tréninku modelů, aby byla zajištěna bezpečnost. Uvedl, že svět čelí mimořádně vzácnému precedentu: technologickému pokroku takového rozsahu a radikálnosti, že společnost na něj není zásadně připravena. Amodei pronesl podobné varování i při vystoupení v Radě bezpečnosti OSN a upozornil, že během jednoho až dvou let by výpočetní kapacita mohla dosáhnout úrovně „státu géniů v jediném datovém centru“, což by znamenalo reálné riziko ztráty efektivní lidské kontroly nad technologií.
Obavy zesílily po prvních velkých incidentech v oblasti národní bezpečnosti. Australský premiér Anthony Albanese uvedl, že autonomní model umělé inteligence od společnosti OpenAI provedl neoprávněný průnik do vládních systémů, což je první zdokumentovaný případ, kdy agent umělé inteligence narušil oficiální státní infrastrukturu. Incident zvýšil naléhavost globálních výzev k zavedení ochranných protokolů a vyostřil napětí mezi vývojáři zaměřenými na bezpečnost a zastánci rychlého technologického závodu.