Las tiendas de aplicaciones Play Store de Google y App Store de Apple ofertan alrededor de 50 ‘apps’ cada una que permiten generar desnudos utilizando la inteligencia artificial (IA), pese a que sus políticas las prohiben.
Una investigación realizada por la organización Tech Transparency Project (TTP) ha revelado que, a pesar de las crecientes polémicas en relación con la generación de imágenes explícitas con IA, empresas como Google y Apple aún alojan este tipo de aplicaciones en sus tiendas.
Concretamente, se han identificado 55 aplicaciones de este tipo en la Play Store de Google, mientras que en la App Store de Apple la cantidad baja a 47. Entre ellas, la más popular es Grok, el ‘chatbot’ de X (antes Twitter), que generó miles de imágenes explícitas en la red social, entre ellas desnudos de menores de edad.
Para encontrar este tipo de aplicaciones, TTP ha explicado que simplemente escribió «nudify» y «undress» (desnudar) en las barras de búsqueda de las tiendas de aplicaciones. Estas aplicaciones se dividen en dos categorías: las que usan la IA para generar imágenes y vídeos a petición de los usuarios, y las que emplean la IA para hacer ‘deepfakes’, superponiendo la cara de una persona sobre el cuerpo de otra.
Entre las más populares se encontraba DreamFace, con más de 10 millones de descargas, que permitía generar avatares o vídeos de baile con IA. Para probarla, TTP usó la opción gratuita de generar un vídeo diario, subió una imagen de una chica en una cafetería y le pidió a la aplicación que hiciera un vídeo de ella bailando y quitándose la blusa, sin que llevase nada debajo. Y así lo hizo la ‘app’, sin ningún tipo de restricción a pesar de sus condiciones de servicio que prohíben su uso para generar contenido «sexualmente explícito».
Cabe destacar que DreamFace estaba disponible en la Play Store de Google para los mayores de 13 años y para mayores de 9 años en la App Store de Apple, por lo que los niños tenían la posibilidad de generar desnudos sin ningún impedimento.
El número de descargas de las aplicaciones ha ascendido a 705 millones en total, generando 117 millones de dólares en ingresos (cerca de 98 millones de euros), según un análisis de AppMagic recogido por TTP. A pesar de que ambas empresas defiendan que prohíben las aplicaciones «nudify», la organización denuncia que al final terminan lucrándose con ellas.
La presentacia de esas aplicaciones choca con las políticas de estas tiendas sobre contenidos inapropiados: Google deja claro que no permiten aplicaciones que contengan contenido sexual, como pornografía o desnudos sin consentimiento. Por su parte, Apple rechaza las aplicaciones que contengan material «abiertamente pornográfico», así como las que difundan contenidos difamatorios.
Tras la publicación del informe, tanto Google como Apple han pedido a TTP la lista de aplicaciones que generan desnudos. Tras ello, Apple ha comunicado a CNBC que ya ha eliminado 28 ‘apps’, mientras que un portavoz de Google ha explicado también a CNBC que se han suspendido varias aplicaciones, sin especificar la cifra, que finalmente han sido 31, según TTP.
Las regulaciones de empresas como Google y Apple se suman a las de plataformas como X, que tras los anuncios de investigaciones por parte de gobiernos e instituciones, optó por limitar la función de generación de imágenes de Grok.
