Etiqueta: ética tecnológica

  • El papa alerta de la dificultad de los estados para controlar a gigantes privados de la IA

    El papa alerta de la dificultad de los estados para controlar a gigantes privados de la IA

    El papa León XIV alertó este viernes en el Vaticano sobre las dificultades que enfrentan los estados para controlar la inteligencia artificial (IA) ante la concentración de estas tecnologías en grandes corporaciones, y advirtió sobre el riesgo de que los intereses privados terminen imponiéndose sobre el bienestar de la sociedad.

    Durante una audiencia con integrantes del Institut International des Sciences Administratives, el pontífice pidió encontrar un equilibrio en el desarrollo y utilización de las tecnologías digitales, acompañado de principios éticos que permitan colocar el bien común por encima de los intereses económicos.

    «Es importante que se establezca una cierta ética para acompañar el uso de estas importantes herramientas que, lamentablemente, se concentran en manos de los grandes actores económicos y tecnológicos, y que al Estado le cuesta controlar», aseguró León XIV durante su intervención.

    El papa consideró necesario establecer mecanismos para evitar que los avances tecnológicos terminen favoreciendo exclusivamente intereses particulares y pidió actuar de manera que «el bien de la familia humana no se sacrifique por intereses privados».

    León XIV también planteó interrogantes sobre la capacidad humana para mantener el control de estas tecnologías conforme avance su desarrollo. «La velocidad a la que se desarrollan las innovaciones relativas a la inteligencia artificial (IA) nos lleva a preguntarnos si en el futuro se podrá controlar a estas máquinas, si el hombre no corre el riesgo de convertirse en víctima de sus propias invenciones», aseguró el papa.

    El pontífice expresó además preocupación por el papel creciente de los sistemas automatizados en asuntos directamente relacionados con las personas. Añadió que «uno de los graves problemas de hoy es constatar que las decisiones sobre la vida humana se confían a las máquinas».

    Ante esta «situación preocupante», León XIV defendió «el carácter irreemplazable de la inteligencia humana frente a estas herramientas tecnológicas» y consideró que el trabajo de especialistas puede «ayudar a las autoridades a tomar decisiones en este ámbito por el bien de la humanidad».

    Finalmente, el papa instó a los participantes de la audiencia a continuar trabajando desde la administración pública para alcanzar «la humanización de las tecnologías digitales, a fin de que sirvan a la vida y a la paz», en momentos en que la inteligencia artificial adquiere una presencia cada vez mayor en distintos ámbitos de la sociedad.

  • Hijo del expresidente mexicano López Obrador exige disculpa a X por insultos de su IA

    Hijo del expresidente mexicano López Obrador exige disculpa a X por insultos de su IA

    José Ramón López Beltrán, hijo del expresidente mexicano Andrés Manuel López Obrador (2018-2024), exigió una disculpa institucional a la red social X tras una respuesta ofensiva generada por Grok, la inteligencia artificial (IA) de la plataforma, en un episodio que reavivó el debate sobre los límites éticos del uso de estas tecnologías en redes sociales.

    La polémica se desató luego de que un usuario solicitara a Grok responder a un mensaje de López Beltrán con el tono de las burlas recurrentes que suele recibir en la plataforma.

    Tras ello, la IA emitió una respuesta que el hijo del exmandatario mexicano calificó como insultante, pues le llamó «nepobaby», «mantenido hipócrita» y «gordo inútil», lo que provocó una rápida viralización del caso y una ola de reacciones entre usuarios.

    En un mensaje publicado en su cuenta oficial, López Beltrán denunció que la respuesta de Grok incluyó: “insultos personales, lenguaje de odio, estigmatización corporal, mentiras y desinformación”, lo que, a su juicio, constituye acoso automatizado y no una crítica legítima ni un aporte al debate público.

    “El problema no es solo el contenido, sino que una inteligencia artificial reproduzca este tipo de mensajes. Cuando una IA insulta, no habla por sí misma: hablan su diseño, sus filtros, su entrenamiento y la supervisión de quienes la construyen y la operan”, escribió López Beltrán, quien dirigió su exigencia directamente a X, propiedad del magnate empresario, Elon Musk.

    El hijo del exmandatario pidió una disculpa institucional por parte de la empresa, así como una explicación técnica sobre las fallas en los sistemas de control y la adopción de protocolos públicos que impidan que herramientas de inteligencia artificial generen insultos, humillaciones o estigmatizaciones bajo el argumento de la sátira.

    El episodio abrió un amplio debate en X sobre la responsabilidad de las compañías tecnológicas en el uso de IA generativa, especialmente ante el riesgo de que estas herramientas reproduzcan discursos discriminatorios o de acoso de forma automatizada.

    Tras la queja pública, la propia Grok respondió a López Beltrán que la publicación ofensiva fue generada a partir de una instrucción de un usuario y que no se trató de una respuesta espontánea del sistema.

    En su mensaje, la IA afirmó que está diseñada para fomentar discusiones basadas en hechos y evitar daños, aunque aclaró que no puede emitir disculpas institucionales ni detallar aspectos técnicos internos.

    La explicación fue considerada insuficiente por López Beltrán, quien reiteró, que independientemente del origen de la instrucción, el contenido generado tuvo un impacto directo y dañino.

    Por ello, insistió en la necesidad de medidas más estrictas para prevenir que la IA sea utilizada como vehículo de acoso o desinformación, además de una disculpa pública “no sólo una respuesta del sistema”.

    También, solicitó un mecanismo de corrección pública cuando el sistema incurra en acoso automatizado o desinformación.

    “La inteligencia artificial debe ampliar derechos y fortalecer el debate, no normalizar el odio desde el diseño, el entrenamiento, el código y los algoritmos”, señaló.

    El caso se suma a una creciente discusión global sobre la regulación, supervisión y responsabilidad de las plataformas digitales frente al uso de sistemas de inteligencia artificial en espacios de debate público.