Etiqueta: inteligencia artificial

Las advertencias sobre una eventual pérdida de control de la inteligencia artificial han generado preocupación, pero especialistas consideran necesario diferenciar los riesgos actuales de escenarios que todavía son hipotéticos. «No debemos caer ni en el alarmismo ni en la indiferencia», sostiene Anna Cejudo, cofundadora y coconsejera delegada de la escuela de formación en inteligencia artificial Founderz.

Jaime Pizarroso, profesor de inteligencia artificial en la Universidad Pontificia Comillas, considera «especialmente importante» distinguir entre las capacidades demostradas y las proyecciones.

Según explicó, los sistemas actuales «no tienen las capacidades necesarias para provocar un escenario de pérdida de control de ese tipo» y para alcanzarlo sería necesaria una combinación de autonomía, planificación prolongada, acceso a recursos y capacidad para eludir la supervisión humana.

«Hoy no tenemos sistemas que puedan hacer todo eso de manera robusta en entornos reales», asegura Pizarroso.

Sin embargo, considera que investigar esos riesgos tampoco debe calificarse como «ciencia ficción», debido a los rápidos avances registrados en agentes autónomos, planificación, uso de computadoras y modelos capaces de encontrar formas de aprovechar las evaluaciones a las que son sometidos.

Cejudo coincide en que actualmente no existen sistemas capaces de operar con tal autonomía que puedan escapar del control humano. «los riesgos más relevantes y demostrables siguen estando relacionados con errores, desinformación, sesgos, privacidad o usos maliciosos de la tecnología», indica. Al mismo tiempo, considera legítimo estudiar cómo mantener seguros futuros sistemas con mayores capacidades.

Los retrasos de algunos lanzamientos y el fortalecimiento de los protocolos de seguridad tampoco deben interpretarse necesariamente como señales de un peligro inminente. Para Pizarroso, «forma parte en buena medida de la maduración normal de una tecnología que evoluciona muy rápido».

El especialista advierte, no obstante, que la presión competitiva hace necesario evitar que la seguridad dependa exclusivamente de la autorregulación de las compañías.

Cejudo comparte esa valoración y señala que incorporar evaluaciones adicionales o posponer productos «no debería interpretarse como una señal de alarma extraordinaria, sino como una muestra de responsabilidad».

«La inteligencia artificial tiene un enorme potencial, pero precisamente por eso es importante asegurarse de que avanza dentro de unos límites seguros y con mecanismos de supervisión adecuados. La madurez de esta tecnología no dependerá solo de lo rápido que avance, sino también de nuestra capacidad para desarrollarla de forma responsable», considera.

Sobre la regulación, Pizarroso destaca los avances logrados en Europa con el reglamento sobre inteligencia artificial y la existencia en España de la Agencia Española de Supervisión de Inteligencia Artificial. Sin embargo, advierte que «aprobar una regulación y conseguir que funcione son dos cosas diferentes» y plantea la necesidad de auditorías externas e independientes, acompañadas de capacidad de inspección de los reguladores.

Ambos expertos coinciden además en la importancia de mejorar la formación sobre inteligencia artificial entre ciudadanos, trabajadores, empresas y autoridades.

«Necesitamos alfabetización en IA tanto entre los ciudadanos como entre quienes toman decisiones sobre su implantación. No podemos pretender regular adecuadamente una tecnología que administraciones, empresas y ciudadanos no comprenden suficientemente», afirma Pizarroso.

Para Cejudo, «La regulación establece las reglas; la formación permite aplicarlas con criterio».