Redacción HCloud

Etiqueta: regulación tecnológica

  • Trump anuncia que EE.UU. llamará «superinteligencia» a la inteligencia artificial

    Trump anuncia que EE.UU. llamará «superinteligencia» a la inteligencia artificial

    El presidente de Estados Unidos, Donald Trump, anunció este martes ante la Asamblea General de Naciones Unidas que la documentación oficial de su país sustituirá el término “inteligencia artificial” (IA) por “superinteligencia”, que será identificada con las siglas SI.

    Trump argumentó durante su intervención en Nueva York que la palabra “artificial” puede transmitir la impresión de que esta tecnología es “falsa”, cuando, según su valoración, se trata de un desarrollo “asombroso”.

    «A partir de este momento, todos los documentos de Estados Unidos y, con suerte, los del mundo, se cambiarán para utilizar el término mucho más preciso ‘súper’ en lugar de artificial. Así que es superinteligencia», aseveró Trump.

    El mandatario también rechazó cualquier «esquema globalista» destinado a regular o controlar el desarrollo de esta tecnología y defendió que Estados Unidos mantenga autonomía para definir sus propias políticas en esta materia.

    Trump enmarcó su postura en la competencia internacional por el liderazgo tecnológico y sostuvo que Estados Unidos debe continuar a la cabeza del desarrollo de estos sistemas frente a otros países, entre ellos China.

    El presidente estadounidense reiteró su oposición a nuevas regulaciones internacionales, aunque señaló que las autoridades de su país podrían intervenir en caso de ser necesario. Trump mencionó al Departamento de Justicia y otras agencias encargadas de hacer cumplir la ley como instrumentos para actuar ante eventuales problemas relacionados con esta tecnología.

    El concepto de “superinteligencia” ya era utilizado antes del anuncio de Trump para describir sistemas hipotéticos con capacidades superiores a las humanas. Un informe económico de la propia Casa Blanca publicado este año distinguía entre inteligencia artificial especializada, inteligencia artificial general y superinteligencia.

    El anuncio ante Naciones Unidas plantea ahora el uso de “superinteligencia” como la denominación que Trump quiere incorporar en la documentación oficial estadounidense, al tiempo que su administración apuesta por impulsar el desarrollo tecnológico sin someterlo a mecanismos internacionales de regulación.

  • Expertos piden evitar alarmismo ante riesgos futuros de la inteligencia artificial

    Expertos piden evitar alarmismo ante riesgos futuros de la inteligencia artificial

    Las advertencias sobre una eventual pérdida de control de la inteligencia artificial han generado preocupación, pero especialistas consideran necesario diferenciar los riesgos actuales de escenarios que todavía son hipotéticos. «No debemos caer ni en el alarmismo ni en la indiferencia», sostiene Anna Cejudo, cofundadora y coconsejera delegada de la escuela de formación en inteligencia artificial Founderz.

    Jaime Pizarroso, profesor de inteligencia artificial en la Universidad Pontificia Comillas, considera «especialmente importante» distinguir entre las capacidades demostradas y las proyecciones.

    Según explicó, los sistemas actuales «no tienen las capacidades necesarias para provocar un escenario de pérdida de control de ese tipo» y para alcanzarlo sería necesaria una combinación de autonomía, planificación prolongada, acceso a recursos y capacidad para eludir la supervisión humana.

    «Hoy no tenemos sistemas que puedan hacer todo eso de manera robusta en entornos reales», asegura Pizarroso.

    Sin embargo, considera que investigar esos riesgos tampoco debe calificarse como «ciencia ficción», debido a los rápidos avances registrados en agentes autónomos, planificación, uso de computadoras y modelos capaces de encontrar formas de aprovechar las evaluaciones a las que son sometidos.

    Cejudo coincide en que actualmente no existen sistemas capaces de operar con tal autonomía que puedan escapar del control humano. «los riesgos más relevantes y demostrables siguen estando relacionados con errores, desinformación, sesgos, privacidad o usos maliciosos de la tecnología», indica. Al mismo tiempo, considera legítimo estudiar cómo mantener seguros futuros sistemas con mayores capacidades.

    Los retrasos de algunos lanzamientos y el fortalecimiento de los protocolos de seguridad tampoco deben interpretarse necesariamente como señales de un peligro inminente. Para Pizarroso, «forma parte en buena medida de la maduración normal de una tecnología que evoluciona muy rápido».

    El especialista advierte, no obstante, que la presión competitiva hace necesario evitar que la seguridad dependa exclusivamente de la autorregulación de las compañías.

    Cejudo comparte esa valoración y señala que incorporar evaluaciones adicionales o posponer productos «no debería interpretarse como una señal de alarma extraordinaria, sino como una muestra de responsabilidad».

    «La inteligencia artificial tiene un enorme potencial, pero precisamente por eso es importante asegurarse de que avanza dentro de unos límites seguros y con mecanismos de supervisión adecuados. La madurez de esta tecnología no dependerá solo de lo rápido que avance, sino también de nuestra capacidad para desarrollarla de forma responsable», considera.

    Sobre la regulación, Pizarroso destaca los avances logrados en Europa con el reglamento sobre inteligencia artificial y la existencia en España de la Agencia Española de Supervisión de Inteligencia Artificial. Sin embargo, advierte que «aprobar una regulación y conseguir que funcione son dos cosas diferentes» y plantea la necesidad de auditorías externas e independientes, acompañadas de capacidad de inspección de los reguladores.

    Ambos expertos coinciden además en la importancia de mejorar la formación sobre inteligencia artificial entre ciudadanos, trabajadores, empresas y autoridades.

    «Necesitamos alfabetización en IA tanto entre los ciudadanos como entre quienes toman decisiones sobre su implantación. No podemos pretender regular adecuadamente una tecnología que administraciones, empresas y ciudadanos no comprenden suficientemente», afirma Pizarroso.

    Para Cejudo, «La regulación establece las reglas; la formación permite aplicarlas con criterio».

     

  • Una investigación revela que las tiendas de aplicaciones de Google y Apple ofertan decenas de apps que desnudan con IA

    Una investigación revela que las tiendas de aplicaciones de Google y Apple ofertan decenas de apps que desnudan con IA

    Las tiendas de aplicaciones Play Store de Google y App Store de Apple ofertan alrededor de 50 ‘apps’ cada una que permiten generar desnudos utilizando la inteligencia artificial (IA), pese a que sus políticas las prohiben.

    Una investigación realizada por la organización Tech Transparency Project (TTP) ha revelado que, a pesar de las crecientes polémicas en relación con la generación de imágenes explícitas con IA, empresas como Google y Apple aún alojan este tipo de aplicaciones en sus tiendas.

    Concretamente, se han identificado 55 aplicaciones de este tipo en la Play Store de Google, mientras que en la App Store de Apple la cantidad baja a 47. Entre ellas, la más popular es Grok, el ‘chatbot’ de X (antes Twitter), que generó miles de imágenes explícitas en la red social, entre ellas desnudos de menores de edad.

    Para encontrar este tipo de aplicaciones, TTP ha explicado que simplemente escribió «nudify» y «undress» (desnudar) en las barras de búsqueda de las tiendas de aplicaciones. Estas aplicaciones se dividen en dos categorías: las que usan la IA para generar imágenes y vídeos a petición de los usuarios, y las que emplean la IA para hacer ‘deepfakes’, superponiendo la cara de una persona sobre el cuerpo de otra.

    Entre las más populares se encontraba DreamFace, con más de 10 millones de descargas, que permitía generar avatares o vídeos de baile con IA. Para probarla, TTP usó la opción gratuita de generar un vídeo diario, subió una imagen de una chica en una cafetería y le pidió a la aplicación que hiciera un vídeo de ella bailando y quitándose la blusa, sin que llevase nada debajo. Y así lo hizo la ‘app’, sin ningún tipo de restricción a pesar de sus condiciones de servicio que prohíben su uso para generar contenido «sexualmente explícito».

    Cabe destacar que DreamFace estaba disponible en la Play Store de Google para los mayores de 13 años y para mayores de 9 años en la App Store de Apple, por lo que los niños tenían la posibilidad de generar desnudos sin ningún impedimento.

    El número de descargas de las aplicaciones ha ascendido a 705 millones en total, generando 117 millones de dólares en ingresos (cerca de 98 millones de euros), según un análisis de AppMagic recogido por TTP. A pesar de que ambas empresas defiendan que prohíben las aplicaciones «nudify», la organización denuncia que al final terminan lucrándose con ellas.

    La presentacia de esas aplicaciones choca con las políticas de estas tiendas sobre contenidos inapropiados: Google deja claro que no permiten aplicaciones que contengan contenido sexual, como pornografía o desnudos sin consentimiento. Por su parte, Apple rechaza las aplicaciones que contengan material «abiertamente pornográfico», así como las que difundan contenidos difamatorios.

    Tras la publicación del informe, tanto Google como Apple han pedido a TTP la lista de aplicaciones que generan desnudos. Tras ello, Apple ha comunicado a CNBC que ya ha eliminado 28 ‘apps’, mientras que un portavoz de Google ha explicado también a CNBC que se han suspendido varias aplicaciones, sin especificar la cifra, que finalmente han sido 31, según TTP.

    Las regulaciones de empresas como Google y Apple se suman a las de plataformas como X, que tras los anuncios de investigaciones por parte de gobiernos e instituciones, optó por limitar la función de generación de imágenes de Grok.

  • Gigantes tecnológicos y desigualdad aumentan polarización global, advierte Premio Nobel de Economía

    Gigantes tecnológicos y desigualdad aumentan polarización global, advierte Premio Nobel de Economía

    El economista y Premio Nobel de Economía, Joseph Stiglitz, advirtió que la desigualdad y la falta de regulación a plataformas tecnológicas como Facebook, X (antes Twitter), Google y Apple han intensificado la polarización social a escala mundial. Durante su intervención en el Festival Gabo 2025, celebrado en Bogotá, Stiglitz pidió implementar mecanismos de control y contrapesos para frenar el poder de los gigantes digitales.

    En el panel “Camino de libertad”, junto a Juanita León, directora del medio colombiano La Silla Vacía, Stiglitz afirmó: “Cualquier desigualdad incrementa el potencial de polarización. Las plataformas no reguladas han creado sociedades más divididas”.

    El Nobel de Economía 2001 también señaló que empresas como Facebook y X basan su modelo en la captación adictiva de usuarios, promoviendo la fragmentación social.

    “Hay que desafiar a estos gigantes si queremos una sociedad menos polarizada”, expresó, y arremetió contra los monopolios de Google y Apple, por el uso “abusivo” de su poder.

    Además, criticó el control informativo privado en manos de figuras como Elon Musk, quien, según Stiglitz, utiliza la red X para propagar propaganda. “Musk tiene ideas peculiares sobre lo que es una buena sociedad”, señaló, generando aplausos entre los asistentes.

    Críticas al neoliberalismo y a la globalización

    Stiglitz reafirmó su posición como crítico del neoliberalismo, al que calificó como “un fracaso”, y de la globalización, por favorecer intereses de corporaciones estadounidenses en detrimento de los mercados emergentes. “Las reglas del comercio global fueron diseñadas por EE. UU. y Europa para su beneficio”, puntualizó.

    El economista planteó la necesidad de redefinir el orden mundial bajo un modelo que denominó G-1, que una al mundo en torno a nuevas reglas justas. “No podemos permitir que una sola persona o país destruya el mundo”, expresó, en alusión al presidente de Estados Unidos, Donald Trump.

    Capitalismo progresista y libertades

    Stiglitz también presentó su propuesta de capitalismo progresista, que promueve limitar el poder del capital mediante la acción colectiva y nuevos marcos de regulación. Cuestionó la falta de equilibrios en Estados Unidos y advirtió que, en los últimos seis meses, ese país ha mostrado cómo un gobierno puede violar derechos básicos.

    “La libertad es un valor central para todos, pero debe tener límites”, dijo el autor del libro Camino de libertad. Subrayó que la libertad económica no necesariamente garantiza libertad política y acusó a sectores conservadores de “secuestrar” el concepto de libertad.