El premio Nobel Geoffrey Hinton, considerado uno de los padres de la inteligencia artificial (IA), advirtió este lunes que llegará un momento en el que los sistemas de esta tecnología comprenderán cuestiones que los seres humanos serán incapaces de entender, debido al avance de sus capacidades. El científico comparó esta posibilidad con las limitaciones de las ratas para comprender conceptos matemáticos como los números primos.
Hinton participó en la apertura del programa principal de conferencias de Starmus, celebrado en Arona, Tenerife, España, junto al psicólogo cognitivo y profesor de Harvard, Steven Pinker, y la exresponsable de Naciones Unidas para el clima, Christiana Figueres. El encuentro fue moderado por el astrofísico y fundador del evento, Garik Israelian, y estuvo centrado en la búsqueda de la verdad en un mundo donde las máquinas y las personas pueden equivocarse.
Durante su intervención, el científico recordó que algunos especialistas en lingüística rechazaron inicialmente la capacidad de los grandes modelos de lenguaje para comprender y generar textos complejos, incluso cuando estas habilidades comenzaron a demostrarse. Hinton mencionó al lingüista Noam Chomsky como ejemplo de investigadores que, a su juicio, no modificaron suficientemente sus posiciones ante las evidencias disponibles.
El premio Nobel sostuvo que la inteligencia artificial podría superar las capacidades cognitivas humanas hasta alcanzar conocimientos imposibles de comprender para las personas. “De igual modo que las ratas nunca comprenderán los números primos”, expresó Hinton, quien agregó que, si una inteligencia artificial muy superior asegura que algo es verdadero, «es mejor que te lo creas».
Hinton advierte sobre los errores de la inteligencia artificial
El investigador también abordó las llamadas “alucinaciones” de la inteligencia artificial, término utilizado para describir respuestas incorrectas o inventadas por estos sistemas. Explicó que estos errores no necesariamente demuestran una falta de comprensión, debido a que los seres humanos también reconstruyen recuerdos y pueden generar versiones equivocadas de acontecimientos que consideran verdaderos.
Steven Pinker coincidió en que las capacidades de los modelos de lenguaje fueron subestimadas inicialmente, pero señaló que su utilidad dependerá de la precisión de sus respuestas y de la existencia de mecanismos que permitan comprobarlas. El profesor de Harvard consideró que estos sistemas no deberían limitarse a mejorar la interacción con los usuarios, sino también garantizar que la información proporcionada pueda verificarse.
Por su parte, Christiana Figueres planteó que las personas construyen sus propias percepciones de la verdad a partir de principios, experiencias y conocimientos. La exfuncionaria de Naciones Unidas propuso “enamorarse de la incertidumbre” como una manera de cuestionar las afirmaciones que se presentan como definitivas. Sin embargo, Hinton defendió la existencia de una verdad objetiva y afirmó que «Las personas o las culturas pueden manejar conceptos distintos pero una vez acordados los términos, determinar si una afirmación es verdadera deja de ser una cuestión de opinión». Además, sostuvo que el poder puede influir en lo que una sociedad considera verdadero, pero no modificar la verdad misma.
Expertos relacionan la desinformación con el cambio climático
El debate también abordó las dificultades para modificar las creencias de las personas, incluso cuando existen pruebas que contradicen sus posiciones. Pinker explicó que los seres humanos suelen razonar mejor sobre situaciones cotidianas que sobre asuntos complejos o alejados de su experiencia. En ese sentido, destacó la importancia de la ciencia, el periodismo responsable y la democracia, al considerar que sus mecanismos de revisión y corrección permiten cuestionar afirmaciones, reconocer errores y fortalecer la confianza pública.
Finalmente, Figueres utilizó el cambio climático como ejemplo de la distancia entre la evidencia científica y las decisiones de la sociedad. Señaló que, pese al amplio consenso científico, algunos sectores utilizan los márgenes de incertidumbre para cuestionar sus conclusiones. Pinker agregó que la politización del cambio climático, que vinculó con la influencia del exvicepresidente estadounidense Al Gore, contribuyó a relacionar la aceptación de las pruebas científicas con las identidades ideológicas, lo que puede provocar el rechazo de información asociada con posiciones políticas contrarias.