Etiqueta: Sira Rego

  • El Gobierno español pide paralizar TikTok ante denuncias de videos de abuso sexual infantil en la plataforma

    El Gobierno español pide paralizar TikTok ante denuncias de videos de abuso sexual infantil en la plataforma

    El Ministerio de Juventud e Infancia de España remitió este lunes un escrito a la Fiscalía General del Estado para que actúe ante las informaciones publicadas por Maldita.es sobre presuntos casos de abuso sexual infantil en TikTok, y ha planteado la posibilidad de paralizar los servicios de la plataforma en España, según han informado fuentes del departamento este lunes.

    En el escrito, el Ministerio traslada a la Fiscalía la información conocida para que, en el ejercicio de sus competencias, adopte las medidas necesarias para garantizar la protección integral de los niños y adolescentes que puedan estar afectados.

    Maldita.es publicó este lunes una investigación en la que asegura haber identificado más de mil vídeos de TikTok con material de abuso sexual infantil explícito. De ellos, ha denunciado a la plataforma una muestra de 50 como contenido ilegal, que acumulaban 8,8 millones de visualizaciones y más de 148.000 ‘me gusta’.

    Según la organización, TikTok solo ha borrado cinco de esos vídeos (el 10%) y ha bloqueado otros 13 (el 26%) únicamente en España. En el 6% de los casos no ha dado respuesta y en el 58% restante ha considerado que no infringen ni la ley ni sus normas, aunque más de la mitad de estos últimos fueron retirados en las 72 horas posteriores a las denuncias. Pasado ese plazo, el 38% de las cuentas denunciadas seguía activo.

    La ministra de Juventud e Infancia, Sira Rego, ha pedido por su parte una reunión con carácter urgente a los representantes de TikTok en España para conocer sus explicaciones, así como las medidas adoptadas y las actuaciones inmediatas previstas para garantizar la protección de la infancia y la adolescencia en su plataforma.

    Para el Ministerio, los hechos documentados por Maldita.es son de extrema gravedad y requieren «una respuesta inmediata y coordinada de todas las administraciones competentes, tanto en el ámbito nacional como en el europeo».

    Las mismas fuentes han subrayado que estos hechos ponen de relieve «graves deficiencias» en los mecanismos de detección y moderación de contenidos de TikTok, así como en el papel de sus sistemas de recomendación en la difusión de este material. En opinión del Ministerio, esto podría constituir una vulneración de los derechos de la infancia por parte de la propia plataforma.

  • España debate restricciones de redes sociales para menores

    España debate restricciones de redes sociales para menores

    El Congreso de España retomará esta semana la tramitación del Proyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales, que contempla restringir el acceso de menores de 16 años a determinadas redes sociales. La ponencia tiene previsto debatir el texto el martes en la Comisión de Justicia.

    Las enmiendas  incorporan al Código Penal la manipulación de algoritmos destinada a amplificar contenidos perjudiciales. La propuesta incluye aquellos que inciten al suicidio o las autolesiones, material de abuso sexual infantil, falsificaciones digitales de carácter sexual y delitos de odio. Los directivos que conozcan estos efectos y no actúen podrían enfrentar responsabilidad penal, al igual que ante el incumplimiento de órdenes para retirar contenidos ilícitos.

    La ministra de Juventud e Infancia, Sira Rego, defendió recientemente que el Gobierno hizo «un esfuerzo» por «situar la responsabilidad donde corresponde», en «las grandes plataformas» y no en las familias.

    «Esto no puede seguir siendo la ley de la selva. Por tanto, son las plataformas, son las redes sociales las que tienen que garantizar que el entorno es seguro y por tanto el límite lo tienen que gestionar ellos, no las familias. Es decir, nosotras lo que abogamos es por limitar el grado de acción de las grandes plataformas, de las tecnológicas y de los caudillos digitales», afirmó.

    Rego se declaró «partidaria de hablar de regulación más que de prohibición» y sostuvo que, mientras se establece el nuevo marco, las autoridades deben ser más exigentes con el acceso de niños y adolescentes al entorno digital. También propuso medidas educativas, acompañamiento a las familias mediante la Estrategia Nacional de Entornos Digitales Seguros y alternativas fuera de las plataformas.

    Los grupos parlamentarios comenzaron a estudiar la iniciativa antes del verano. Fuentes del gobernante Partido Socialista Obrero Español (PSOE) expresaron entonces su satisfacción por el entendimiento alcanzado entre las formaciones de la mayoría progresista y por la incorporación de enmiendas y propuestas transaccionales socialistas al proyecto.

    Entre los cambios planteados, PSOE y Sumar acordaron impedir a los menores de 16 años acceder a redes sociales que incluyan «contenidos dañinos para la infancia y adolescencia».

    Las plataformas deberán demostrar ante la Comisión Nacional de los Mercados y la Competencia (CNMC) que no emplean diseños adictivos, protegen la privacidad y ofrecen herramientas frente a contactos no deseados. Para utilizar las plataformas autorizadas, los menores de esa edad necesitarían además permiso de sus padres o tutores legales.

    Contexto europeo

    La discusión española coincide con iniciativas similares en otros países e instituciones europeas.

    La presidenta de la Comisión Europea, Ursula von der Leyen, anunció el 16 de septiembre una propuesta para impedir el acceso a redes sociales a menores de 13 años en la Unión Europea y establecer restricciones hasta los 15 años, mediante cuentas supervisadas y configuraciones adaptadas a cada edad.

    El Parlamento francés aprobó este verano una prohibición de redes sociales para menores de 15 años, cuya aplicación progresiva está prevista hasta el 1 de enero de 2027.

     

  • Grok limita su generador de imágenes con IA tras la polémica de las fotografías sexualizadas

    Grok limita su generador de imágenes con IA tras la polémica de las fotografías sexualizadas

    Grok, la herramienta de inteligencia artificial (IA) de la red social X (antes Twitter), limitó su generador de imágenes tras la polémica de las fotografías sexualizadas demandadas por miles de usuarios, entre las que se encuentran menores de edad.

    La plataforma de Elon Musk restringió el acceso a esta herramienta a los miembros de pago y ha ofrecido a los usuarios sin insignia de verificación la opción de adquirir una suscripción para desbloquearla.

    «La creación y edición de imágenes actualmente solo está disponible para miembros de pago. Puedes suscribirte para desbloquear estas funciones», respondió Grok a los usuarios que han pedido sexualizar o cambiar la ropa de personas, principalmente mujeres y niños, en comentarios.

    Según CNBC, el abuso del ‘chatbot’ de X comenzó a finales del pasado mes de diciembre, hasta que escaló en Nochevieja y se extendió por la plataforma, ampliándose así la distribución de imágenes explícitas, sin consentimiento de las víctimas en la mayoría de los casos.

    La medida llega tras las protestas de los propios usuarios y las autoridades, como el caso de Reino Unido, que llegó a amenazar a Musk con una posible prohibición de X en el país, según The Guardian.

    En España, la ministra de Juventud e Infancia, Sira Rego, pidió a la Fiscalía investigar a Grok por presuntos delitos de difusión de material de violencia sexual contra la infancia tras los casos de desnudos de menores.

    Por su parte, la Unión Europea condenó el uso de esta herramienta para generar imágenes de menores y ha pedido a X que conserve la documentación generadaa por Grok hasta finales de 2026 para una posible investigación, ha informado Bloomberg.

    En un post de X, Elon Musk respondió que «cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal».

    En concreto, las políticas de xAI establecen que, para cumplir con la ley, no permite el uso de su servicio para «representar imágenes de personas de manera pornográfica» ni «la sexualización o explotación de los niños».