Etiqueta: deepfake

  • Giorgia Meloni patenta su propia voz para evitar eventuales clones y montajes de IA

    Giorgia Meloni patenta su propia voz para evitar eventuales clones y montajes de IA

    La primera ministra de Italia, Giorgia Meloni, registró su propia voz ante la Oficina de Propiedad Intelectual de la Unión Europea (EUIPO) para protegerse de eventuales clonaciones y montajes creados mediante Inteligencia Artificial (IA).

    «Io sono Giorgia Meloni» (Yo soy Giorgia Meloni) fue la frase elegida por la política ultraderechista para registrar su voz mediante un audio de cuatro segundos. La medida pretende prevenir que sistemas de IA puedan clonar su voz y utilizarla en contenidos falsos.

    Según informó el diario ‘La Repubblica’, que adelantó la noticia, la EUIPO archivó la voz de Meloni junto con las inflexiones de su timbre y otras particularidades para protegerla ante posibles copias.

    Las cuatro palabras utilizadas para el registro proceden de una de las frases más conocidas de Meloni. En octubre de 2019, tres años antes de llegar al poder, proclamó durante un acto público en Roma su «Yo soy Giorgia, soy una mujer, una madre, una italiana y una cristiana». La política también utilizó la frase ‘Io sono Giorgia’ como título de sus memorias en 2022, año en el que llegó al Gobierno.

    Meloni manifestó anteriormente su preocupación por los riesgos derivados de la IA y denunció montajes digitales de los que fue víctima. En mayo circularon en redes sociales fotografías de una mujer en ropa interior a la que habían colocado el rostro de la primera ministra.

    Aunque reaccionó con ironía a las imágenes, bromeando con que «la habían mejorado mucho», Meloni advirtió que los ‘deepfake’ son «una herramienta peligrosa porque pueden engañar, manipular y afectar a cualquiera».

    «Yo puedo defenderme pero muchos otros no. Por eso debe seguirse siempre una regla: verificar antes de creer y creer antes de compartir. Porque hoy me ha pasado a mi; mañana puede ocurrirle a cualquiera», subrayó la primera ministra.

    Un mes después, el Gobierno italiano aprobó dos decretos para regular la IA, diferenciando las falsificaciones y estableciendo disposiciones sobre su utilización en el sector educativo y por los cuerpos de seguridad. Meloni también fue ‘reproducida’ mediante IA en campañas en redes sociales del político ultraderechista y militar Roberto Vannacci, quien frecuentemente se representó como un emperador que manda a los leones a sus opositores italianos.

  • Nueva IA de Netflix permite eliminar objetos y modificar escenas en videos

    Nueva IA de Netflix permite eliminar objetos y modificar escenas en videos

    Netflix presentó VOID, un nuevo modelo de inteligencia artificial capaz de eliminar objetos en movimiento dentro de videos y modificar las interacciones asociadas a estos elementos mediante técnicas avanzadas de reconstrucción.

    La herramienta surge como una evolución frente a métodos tradicionales, que solo rellenan el fondo tras eliminar un objeto, pero que suelen fallar cuando existen interacciones complejas, generando resultados poco realistas.

    VOID, basado en la arquitectura CogVideoX, introduce un sistema más sofisticado mediante una máscara de cuatro valores que identifica el objeto a eliminar, las zonas superpuestas, las interacciones y el fondo.

    Este enfoque permite que el modelo procese primero la eliminación completa del objeto junto con sus interacciones y, en caso de errores, ejecute una segunda pasada para estabilizar el resultado y mejorar la coherencia visual.

    El desarrollo fue realizado en conjunto con la Universidad de Sofía, utilizando datasets especializados como HUMOTO, centrado en interacciones humanas, y Kubric, orientado a interacciones entre objetos.

    Al ser un modelo de código abierto, VOID está disponible en plataformas como GitHub y Hugging Face, lo que permite a desarrolladores, investigadores y creadores experimentar con esta tecnología de forma gratuita.

    Entre sus capacidades destaca la posibilidad de modificar escenas de manera más realista, como eliminar un objeto sin alterar de forma incorrecta los elementos que interactúan con él.

    Un ejemplo presentado muestra cómo VOID elimina una prensa que aplasta un objeto, pero reconstruye correctamente el estado original del elemento afectado, a diferencia de otros modelos que mantienen la deformación.

    No obstante, expertos advierten que esta tecnología también implica riesgos, ya que podría ser utilizada para manipular contenido audiovisual y facilitar la desinformación.

    El avance refleja el creciente impacto de la inteligencia artificial en la edición de video, abriendo nuevas posibilidades creativas, pero también desafíos éticos sobre el uso de estas herramientas.