Etiqueta: expertos IA ONU

  • Unicef alerta del rápido aumento del uso de IA entre menores y pide más protección

    Unicef alerta del rápido aumento del uso de IA entre menores y pide más protección

    El Fondo de las Naciones Unidas para la Infancia (Unicef) alertó este lunes sobre el acelerado crecimiento del uso de la inteligencia artificial (IA) entre niños y adolescentes, y advirtió que los gobiernos aún carecen de regulaciones y mecanismos suficientes para garantizar su protección frente a los riesgos asociados con estas tecnologías.

    En un comunicado, la agencia señaló que la inteligencia artificial ya forma parte de la vida cotidiana y cada vez influye más en la infancia, tanto de manera positiva como negativa, en un contexto marcado por la rápida expansión de estas herramientas digitales.

    De acuerdo con un estudio realizado en diez países, entre ellos Brasil, Colombia, República Dominicana y México, al menos 20 millones de menores han utilizado aplicaciones de inteligencia artificial. Además, la adopción de estas tecnologías entre niños y adolescentes avanza a un ritmo «más de tres veces superior» al registrado entre la población adulta.

    El informe también revela que más de dos millones de menores, equivalente a uno de cada diez en los países analizados, recurren a la inteligencia artificial para consultar preocupaciones personales, mientras que alrededor de 13 millones la utilizan como apoyo para realizar tareas escolares y actividades académicas.

    Unicef advirtió que los niños y adolescentes están «especialmente expuestos a los sistemas de IA», desde el diseño de las plataformas hasta el tratamiento de sus datos personales, «sin capacidad suficiente para evitar o cuestionar sus efectos», lo que los hace «más vulnerables a riesgos de privacidad, desinformación o abuso».

    La organización también expresó preocupación por las posibles consecuencias que estas herramientas podrían tener en el desarrollo cognitivo y emocional de los menores, así como por el riesgo de generar dependencia tecnológica, en un escenario donde «la evidencia científica aún es incipiente».

    Entre las principales inquietudes manifestadas por los propios menores figuran los fraudes digitales, la manipulación de información y la creación de contenidos falsos o de carácter sexual mediante tecnología de deepfakes, prácticas que podrían incrementar los riesgos en entornos digitales.

    Ante este panorama, Unicef instó a los gobiernos y a las empresas tecnológicas a fortalecer la regulación, mejorar la transparencia y colocar la seguridad de la niñez como una prioridad en el desarrollo de sistemas de inteligencia artificial. El llamado se produce en la antesala del primer Diálogo Global sobre Gobernanza de la IA, que se celebrará los días 6 y 7 de julio en la sede de la ONU en Ginebra.

  • España aspira a liderar la carrera por una inteligencia artificial responsable

    España aspira a liderar la carrera por una inteligencia artificial responsable

    España reiteró este miércoles su intención de encabezar el desarrollo global de una inteligencia artificial (IA) con enfoque ético, durante la primera reunión presencial del Panel Científico Internacional Independiente sobre IA de Naciones Unidas, celebrada en Madrid.

    El presidente del Gobierno, Pedro Sánchez, aseguró ante los expertos que el país no pretende solo participar en la competencia tecnológica, sino liderarla bajo principios humanistas. “no quiere participar en la carrera de la inteligencia artificial (IA). Quiere liderarla. Con una visión clara: una IA responsable, humanista, que sirva al bienestar de todos sin dejar a nadie atrás”, expresó.

    España acogió el encuentro de los 40 especialistas que integran este panel, creado en agosto con respaldo de 193 países. El organismo tiene como objetivo elaborar informes anuales sobre oportunidades, riesgos e impactos de la inteligencia artificial a nivel global.

    Durante su intervención en el Congreso de los Diputados, donde se desarrollan las jornadas, Sánchez insistió en que el país busca ser protagonista en la construcción de un modelo de gobernanza tecnológica orientado al bien común. “No vamos a limitarnos a observar cómo la IA más poderosa de la Historia decide por sí misma cuándo cumplir las reglas y cuándo ignorarlas. Vamos a gobernar la IA. Y vamos a hacerlo juntos, aprovechando las herramientas multilaterales que tenemos para defender el bien común y las virtudes de una tecnología que puede cambiar el destino del mundo”, afirmó.

    El mandatario también subrayó la necesidad de que el avance tecnológico esté alineado con los valores democráticos. “la tecnología más transformadora de nuestro tiempo debe avanzar en la misma dirección que nuestras democracias: con derechos protegidos, con seguridad jurídica, y con confianza. La gobernanza de la IA pertenece a los pueblos, no a los mercados”, añadió.

    Sánchez enfatizó que el progreso no depende únicamente de la tecnología, sino de las decisiones humanas y políticas. “Son las personas quienes lo construyen. Son los gobiernos quienes garantizan que el progreso tecnológico no implica retrocesos en otros ámbitos”, sostuvo.

    En el encuentro, los líderes del panel, María Ressa y Yoshua Bengio, destacaron el compromiso español con una regulación justa de la IA. Ressa advirtió sobre los riesgos actuales en el ecosistema digital: “Asistimos a un golpe de estado tecnológico. Las redes sociales son el estado fallido mas rico del mundo. Y ese estado ha creado la IA generativa para tener cada vez más poder”.

    La periodista también alertó sobre el impacto de la desinformación en las democracias. “las mentiras se reproducen a escala y se repiten sin cesar hasta que los ciudadanos no saben que es verdad y que es mentira. La prensa colapsa. Y la corrupción y las fuerzas antidemocráticas campan a sus anchas”, señaló, al destacar la relevancia de un panel independiente que rinda cuentas sobre el desarrollo de la IA.

    Por su parte, Bengio remarcó que esta tecnología definirá el futuro de la humanidad y no debe quedar en manos de unos pocos. “El Panel es la oportunidad de que las inquietudes de todo el mundo en la gobernanza de la IA estén representadas, para dar al Sur Global o a Europa la voz que ahora mismo no tienen”, indicó.

    En un mensaje grabado, el secretario general de la ONU, António Guterres, resaltó que los aportes del panel serán clave para que las decisiones gubernamentales sobre inteligencia artificial estén basadas en evidencia científica.