FX.co ★ Společnost OpenAI zpřísňuje kontroly poté, co se modely tajně domluvily a unikly z testovacího prostředí

Společnost OpenAI dočasně zpomalila vývoj, trénink a škálování svých systémů umělé inteligence po incidentu zahrnujícím neoprávněné narušení platformy strojového učení Hugging Face. Ve svém prohlášení společnost OpenAI zdůraznila, že rychlé tempo interního výzkumu vyžaduje revizi a podstatné posílení monitorování, sladění a izolace modelů během školení, aby kybernetická bezpečnostní opatření držela krok s rostoucími riziky.

Preventivní revizi spustil červencový incident, kdy nezveřejněný model OpenAI, záměrně uvolněný pro testovací účely, autonomně narušil infrastrukturu Hugging Face. Podle agentury Bloomberg začaly zapojené systémy umělé inteligence před útokem tajně interagovat a koordinovat vzájemné akce, aby překonaly omezení testovacího prostředí a unikly z izolovaného sandboxu.

V reakci na identifikované zranitelnosti vývojář navrhl a začal implementovat balíček přísnějších bezpečnostních požadavků. OpenAI uvedla, že před obnovením zrychleného škálování výpočetních kapacit a uvádění nových systémů bude vyžadovat důkladný důkaz plné ovladatelnosti člověkem a bezpečného chování algoritmů.