FX.co ★ Apple retiró de su Appstore aplicaciones de IA que promovían la creación de imágenes de desnudos no consentidas

Apple Inc. ha retirado varias aplicaciones generadoras de imágenes basadas en IA que supuestamente se comercializaban para producir imágenes explícitas no autorizadas. Una investigación reciente de 404 Media descubrió cómo ciertas empresas explotaban anuncios de Instagram para promocionar aplicaciones capaces de desnudar virtualmente a personas sin su consentimiento.

Algunos de estos anuncios dirigían a los usuarios a la tienda de Apple a una aplicación comercializada como "generador de arte", creada específicamente para crear imágenes explícitas no consentidas. Las aplicaciones incluían funciones como el intercambio de rostros en contenido para adultos y la eliminación digital de la ropa de las fotos. La investigación no sólo reveló la existencia de estas aplicaciones, sino que también puso de relieve su promoción en plataformas publicitarias muy utilizadas.

Inicialmente, estas aplicaciones se anunciaban a través de la biblioteca de anuncios de Meta en Instagram. Sin embargo, una vez que estos anuncios fueron identificados y marcados, Meta los retiró rápidamente.

En un principio, Apple no respondió a las preguntas de 404 Media. Sin embargo, tras recibir información detallada, como enlaces directos a las aplicaciones y sus anuncios, Apple actuó con rapidez.

Según 404 Media, "Apple eliminó un total de tres aplicaciones de la App Store, pero sólo después de que le proporcionáramos enlaces a las aplicaciones concretas y a sus anuncios asociados". Esto sugiere que Apple no pudo localizar de forma independiente las aplicaciones infractoras".

Aunque la eliminación de estas aplicaciones de la App Store por parte de Apple es encomiable, aún quedan problemas por resolver. Por ejemplo, Apple no impidió estas aplicaciones durante su proceso de revisión de la App Store y tuvo que recurrir a entidades externas para llamar la atención sobre su existencia.