FX.co ★ Společnost Apple odstranila ze svého obchodu Appstore aplikace s umělou inteligencí, které propagovaly vytváření nepovolených nahých snímků

Společnost Apple Inc. odstranila několik aplikací pro generování obrázků založených na umělé inteligenci, které byly údajně prodávány za účelem vytváření nepovolených explicitních obrázků. Nedávné šetření 404 Media odhalilo, jak některé společnosti zneužívaly reklamy na Instagramu k propagaci aplikací schopných virtuálně zobrazovat nahé osoby bez jejich souhlasu.

Některé z těchto reklam směrovaly uživatele do obchodu Apple Store na aplikaci prodávanou jako "generátor umění", vytvořenou speciálně pro vytváření nedovolených explicitních obrázků. Aplikace obsahovaly funkce, jako je výměna obličejů v obsahu pro dospělé a digitální odstranění oblečení z fotografií. Šetření nejen odhalilo existenci těchto aplikací, ale také zdůraznilo jejich propagaci na široce používaných reklamních platformách.

Zpočátku byly tyto aplikace propagovány prostřednictvím reklamní knihovny Meta na Instagramu. Jakmile však byly tyto reklamy identifikovány a označeny, společnost Meta je okamžitě odstranila.

Společnost Apple na dotazy 404 Media zpočátku nereagovala. Po obdržení podrobných informací, například přímých odkazů na aplikace a jejich reklamy, však společnost Apple jednala rychle.

Podle 404 Media "Apple odstranil z App Store celkem tři aplikace, ale až poté, co jsme společnosti poskytli odkazy na konkrétní aplikace a s nimi spojené reklamy. To naznačuje, že společnost Apple nemohla nezávisle najít aplikace porušující zásady."

Odstranění těchto aplikací z App Store společností Apple je sice chvályhodné, ale stále zde přetrvávají problémy. Například společnost Apple nezabránila těmto aplikacím během svého procesu přezkoumávání App Store a musela se spoléhat na externí subjekty, které na existenci těchto aplikací upozornily.