Redacción HCloud

Etiqueta: clonación de voz

  • Giorgia Meloni patenta su propia voz para evitar eventuales clones y montajes de IA

    Giorgia Meloni patenta su propia voz para evitar eventuales clones y montajes de IA

    La primera ministra de Italia, Giorgia Meloni, registró su propia voz ante la Oficina de Propiedad Intelectual de la Unión Europea (EUIPO) para protegerse de eventuales clonaciones y montajes creados mediante Inteligencia Artificial (IA).

    «Io sono Giorgia Meloni» (Yo soy Giorgia Meloni) fue la frase elegida por la política ultraderechista para registrar su voz mediante un audio de cuatro segundos. La medida pretende prevenir que sistemas de IA puedan clonar su voz y utilizarla en contenidos falsos.

    Según informó el diario ‘La Repubblica’, que adelantó la noticia, la EUIPO archivó la voz de Meloni junto con las inflexiones de su timbre y otras particularidades para protegerla ante posibles copias.

    Las cuatro palabras utilizadas para el registro proceden de una de las frases más conocidas de Meloni. En octubre de 2019, tres años antes de llegar al poder, proclamó durante un acto público en Roma su «Yo soy Giorgia, soy una mujer, una madre, una italiana y una cristiana». La política también utilizó la frase ‘Io sono Giorgia’ como título de sus memorias en 2022, año en el que llegó al Gobierno.

    Meloni manifestó anteriormente su preocupación por los riesgos derivados de la IA y denunció montajes digitales de los que fue víctima. En mayo circularon en redes sociales fotografías de una mujer en ropa interior a la que habían colocado el rostro de la primera ministra.

    Aunque reaccionó con ironía a las imágenes, bromeando con que «la habían mejorado mucho», Meloni advirtió que los ‘deepfake’ son «una herramienta peligrosa porque pueden engañar, manipular y afectar a cualquiera».

    «Yo puedo defenderme pero muchos otros no. Por eso debe seguirse siempre una regla: verificar antes de creer y creer antes de compartir. Porque hoy me ha pasado a mi; mañana puede ocurrirle a cualquiera», subrayó la primera ministra.

    Un mes después, el Gobierno italiano aprobó dos decretos para regular la IA, diferenciando las falsificaciones y estableciendo disposiciones sobre su utilización en el sector educativo y por los cuerpos de seguridad. Meloni también fue ‘reproducida’ mediante IA en campañas en redes sociales del político ultraderechista y militar Roberto Vannacci, quien frecuentemente se representó como un emperador que manda a los leones a sus opositores italianos.

  • Alertan sobre llamadas falsas con IA que atacan empresas

    Alertan sobre llamadas falsas con IA que atacan empresas

    Las llamadas falsas generadas con inteligencia artificial se han convertido en una nueva amenaza para las empresas, según advirtió la compañía de ciberseguridad ESET, que alerta sobre el uso de clonación de voz y audios deepfake para cometer fraudes financieros o secuestrar cuentas corporativas.

    La expansión de la inteligencia artificial generativa facilitó la creación de audios y videos falsos con gran realismo. De acuerdo con ESET, ahora es posible fabricar un clip falso con apenas unos segundos de audio de una persona, lo que permite a los ciberdelincuentes hacerse pasar por ejecutivos o proveedores para engañar a empleados dentro de las organizaciones.

    Datos citados por el Gobierno británico indican que el año pasado se compartieron hasta 8 millones de clips falsos, una cifra muy superior a los 500,000 difundidos en 2023. Los expertos consideran que el número real podría ser incluso mayor y advierten que muchas empresas aún subestiman el riesgo.

    Según ESET, los ataques suelen iniciar cuando un delincuente selecciona a la persona que desea suplantar, como un director ejecutivo o un responsable financiero. Luego obtiene una breve muestra de audio disponible en internet —por ejemplo en entrevistas, redes sociales o conferencias— y utiliza herramientas de inteligencia artificial para generar una voz sintética con la que realiza llamadas a empleados de la empresa.

    “Este tipo de ataque es cada vez más barato, sencillo y convincente. Algunas herramientas son capaces incluso de insertar ruido de fondo, pausas y tartamudeos para que la voz suplantada resulte más creíble. Cada vez imitan mejor los ritmos, las inflexiones y los tics verbales propios de cada orador. Y cuando un ataque se lanza por teléfono, los fallos relacionados con la IA pueden ser más difíciles de detectar para quien atiende”, advirtió Macio Micucci, investigador de Seguridad Informática de ESET Latinoamérica.

    Los atacantes también recurren a técnicas de ingeniería social para presionar a las víctimas con solicitudes urgentes, como transferencias bancarias o cambios en contraseñas.

    Uno de los casos más conocidos ocurrió en 2020, cuando un empleado de una empresa en Emiratos Árabes Unidos transfirió $35 millones tras recibir una llamada que simulaba la voz de su director solicitando fondos para una supuesta operación empresarial.

    Para reducir estos riesgos, ESET recomienda reforzar la capacitación de los empleados, verificar por canales alternativos cualquier solicitud telefónica relacionada con dinero o datos sensibles, y establecer protocolos internos como la aprobación de dos personas para transferencias importantes o el uso de contraseñas acordadas previamente para confirmar la identidad de ejecutivos.

    “Las falsificaciones son sencillas y su producción cuesta poco. Dadas las enormes sumas que pueden obtener los estafadores, es poco probable que veamos pronto el final de las estafas de clonación de voz. Por lo tanto, la mejor opción que tiene una organización para mitigar el riesgo es un triple enfoque basado en las personas, los procesos y la tecnología. Para que se adapte a medida que avanza la innovación en IA, es importante que sea revisado periódicamente. El nuevo panorama del ciberfraude exige una atención constante”, concluyó Micucci.