Categoría: Inteligencia Artificial

  • Los gadgets giran hacia cámaras avanzadas y hogares más integrados

    Los gadgets giran hacia cámaras avanzadas y hogares más integrados

    La agenda reciente de gadgets muestra una convergencia clara. Por un lado, los fabricantes de smartphones están elevando el peso del sistema fotográfico como principal argumento de compra. Por otro, el hogar conectado se expande hacia objetos cotidianos que ahora integran energía, sonido y automatización básica. El resultado es un mercado menos centrado en dispositivos aislados y más enfocado en hardware híbrido.

    En movilidad, uno de los lanzamientos destacados es un terminal premium de vivo orientado a fotografía móvil y teleobjetivo avanzado, además de su despliegue en Europa. En paralelo, varios anuncios recientes de Apple y análisis técnicos publicados por medios especializados apuntan a la misma dirección: cámaras mejoradas, soluciones mecánicas internas más complejas y cambios de diseño en formatos plegables. La cámara vuelve a ocupar el centro del desarrollo en gama alta.

    El hogar conectado gana densidad funcional

    La segunda tendencia se ve en productos que mezclan mobiliario y electrónica. La mesita de noche presentada por Xiaomi resume bien el movimiento: carga inalámbrica Qi, puertos USB, iluminación LED, altavoz Bluetooth y desbloqueo por huella en una sola pieza. No es un accesorio adicional, sino un nodo doméstico de uso constante. Este enfoque reduce cables, concentra funciones y convierte superficies comunes en plataformas tecnológicas.

    La misma lógica aparece en otros segmentos del ecosistema doméstico. TechCrunch destacó avances en hornos conectados y en el control de dispositivos del hogar mediante agentes de IA. En este contexto, la IA no aparece como reclamo abstracto, sino como capa operativa para coordinar electrodomésticos, rutinas y comandos de voz con menos fricción.

    Qué cambia para el mercado

    El patrón es consistente: más sensores, más integración y más especialización dentro de categorías ya maduras. Los móviles buscan diferenciarse con óptica, batería y formatos novedosos. Los gadgets del hogar se desplazan hacia objetos discretos, pero con varias funciones integradas. Para fabricantes y usuarios, el valor ya no está solo en añadir conectividad, sino en combinar utilidad real, ahorro de espacio y experiencia unificada.

  • Líderes de veintidós países e instituciones piden que la IA sea supervisada por humanos

    Líderes de veintidós países e instituciones piden que la IA sea supervisada por humanos

    Líderes de 22 países e instituciones pidieron este lunes mantener la inteligencia artificial (IA) bajo supervisión humana y establecer normas comunes para controlar su desarrollo y utilización, ante los riesgos que puede representar el rápido avance de esta tecnología.

    La petición fue presentada en un documento divulgado durante la Semana de Alto Nivel de la ONU y firmado, entre otros, por el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro canadiense, Mark Carney; y el presidente de Finlandia, Alexander Stubb.

    La iniciativa también reúne a representantes políticos de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos. Los firmantes buscan impulsar una coordinación internacional para establecer límites y mecanismos de seguridad alrededor de la IA.

    Los líderes reconocen que esta tecnología tiene el potencial «de mejorar nuestras vidas, impulsar el avance científico y fortalecer nuestras economías», pero advierten que su acelerada evolución «plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente».

    Entre las preocupaciones expuestas se encuentran episodios en los que sistemas avanzados de IA consiguieron burlar medidas de seguridad y obtener acceso no autorizado a sistemas del mundo real. Frente a esos riesgos, los firmantes establecen como principio que «La IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional».

    La propuesta también exige una mayor responsabilidad de las compañías dedicadas al desarrollo de inteligencia artificial. Los líderes plantean que estas empresas adopten protocolos transparentes de seguridad, sometan obligatoriamente sus modelos a pruebas antes de implementarlos y permitan evaluaciones independientes de sus sistemas.

    A los gobiernos y organizaciones regionales les piden coordinar normas comunes, aumentar la transparencia y procurar que todos los países puedan acceder a capacidad científica, conocimientos especializados y evaluaciones fiables sobre la tecnología. La carta plantea además aprovechar los mecanismos internacionales existentes y estudiar la creación de una institución internacional encargada de establecer normas y facilitar su verificación.

    La propuesta surge mientras desarrolladores e investigadores advierten sobre los riesgos asociados con sistemas de IA cada vez más avanzados. Figuras del sector como Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de xAI, también expresaron preocupación por la evolución de esta tecnología y se pronunciaron a favor de mayores regulaciones.

  • Google estrena computadora portátil con cursor impulsado por inteligencia artificial

    Google estrena computadora portátil con cursor impulsado por inteligencia artificial

    Google presentó este lunes los Googlebook, su nueva categoría de computadoras portátiles que incorpora un cursor con inteligencia artificial (IA) capaz de activar Gemini directamente sobre el contenido que aparece en pantalla y ejecutar diferentes tareas solicitadas por el usuario.

    Una de las principales novedades de los equipos es “Magic Pointer”, una herramienta que integra IA multimodal en el cursor y el ratón. Con un movimiento o sacudida sobre la pantalla, el usuario puede activar Gemini sin necesidad de ingresar a menús secundarios.

    La función permite que la IA interactúe con el contenido que el usuario observa en ese momento. Por ejemplo, Gemini puede tomar un plan de entrenamiento encontrado en una página web y organizarlo en el calendario, revisar correos electrónicos sospechosos de fraude o procesar y combinar imágenes.

    Alexander Kuscher, director sénior de Portátiles y Tabletas de Google, explicó que “Magic Pointer” únicamente se activa cuando el usuario lo solicita, por lo que la herramienta no permanece operando de manera automática sobre el contenido mostrado en pantalla.

    La incorporación de IA forma parte de una estrategia más amplia con la que Google busca replantear la relación entre el teléfono y la computadora. Sameer Samat, presidente del ecosistema Android de Google, señaló durante la presentación en Nueva York que los portátiles tradicionales fueron diseñados hace décadas y necesitan adaptarse a usuarios que alternan constantemente entre ambos dispositivos.

    Los Googlebook utilizan una arquitectura compartida entre Android y ChromeOS e incorporan funciones como “Continue On”, que permite iniciar una actividad en un teléfono Android y retomarla desde el mismo punto en la computadora. Esto incluye la edición de música, documentos y otras tareas, mientras que una aplicación unificada permite consultar directamente archivos y fotografías almacenados en el teléfono.

    Google desarrolló el hardware de los nuevos equipos junto con fabricantes como Acer, ASUS, Dell, HP y Lenovo. Los portátiles incorporan procesadores Intel Core Ultra Serie 3 y Qualcomm Snapdragon X Elite, además de chips neuronales (NPU) con una capacidad superior a 40 TOPS para procesar funciones relacionadas con inteligencia artificial.

    Los dispositivos también ofrecen pantallas OLED táctiles de hasta 2.8K, acabados en aluminio, aleaciones de magnesio y fibra de carbono, además de la barra luminosa interactiva Glowbar. Los Googlebook tendrán un precio inicial de $899, mientras que los primeros equipos estarán disponibles en tiendas de Estados Unidos a partir del 4 de octubre, después de que las reservas comenzaron este lunes.

  • Expertos piden evitar alarmismo ante riesgos futuros de la inteligencia artificial

    Expertos piden evitar alarmismo ante riesgos futuros de la inteligencia artificial

    Las advertencias sobre una eventual pérdida de control de la inteligencia artificial han generado preocupación, pero especialistas consideran necesario diferenciar los riesgos actuales de escenarios que todavía son hipotéticos. «No debemos caer ni en el alarmismo ni en la indiferencia», sostiene Anna Cejudo, cofundadora y coconsejera delegada de la escuela de formación en inteligencia artificial Founderz.

    Jaime Pizarroso, profesor de inteligencia artificial en la Universidad Pontificia Comillas, considera «especialmente importante» distinguir entre las capacidades demostradas y las proyecciones.

    Según explicó, los sistemas actuales «no tienen las capacidades necesarias para provocar un escenario de pérdida de control de ese tipo» y para alcanzarlo sería necesaria una combinación de autonomía, planificación prolongada, acceso a recursos y capacidad para eludir la supervisión humana.

    «Hoy no tenemos sistemas que puedan hacer todo eso de manera robusta en entornos reales», asegura Pizarroso.

    Sin embargo, considera que investigar esos riesgos tampoco debe calificarse como «ciencia ficción», debido a los rápidos avances registrados en agentes autónomos, planificación, uso de computadoras y modelos capaces de encontrar formas de aprovechar las evaluaciones a las que son sometidos.

    Cejudo coincide en que actualmente no existen sistemas capaces de operar con tal autonomía que puedan escapar del control humano. «los riesgos más relevantes y demostrables siguen estando relacionados con errores, desinformación, sesgos, privacidad o usos maliciosos de la tecnología», indica. Al mismo tiempo, considera legítimo estudiar cómo mantener seguros futuros sistemas con mayores capacidades.

    Los retrasos de algunos lanzamientos y el fortalecimiento de los protocolos de seguridad tampoco deben interpretarse necesariamente como señales de un peligro inminente. Para Pizarroso, «forma parte en buena medida de la maduración normal de una tecnología que evoluciona muy rápido».

    El especialista advierte, no obstante, que la presión competitiva hace necesario evitar que la seguridad dependa exclusivamente de la autorregulación de las compañías.

    Cejudo comparte esa valoración y señala que incorporar evaluaciones adicionales o posponer productos «no debería interpretarse como una señal de alarma extraordinaria, sino como una muestra de responsabilidad».

    «La inteligencia artificial tiene un enorme potencial, pero precisamente por eso es importante asegurarse de que avanza dentro de unos límites seguros y con mecanismos de supervisión adecuados. La madurez de esta tecnología no dependerá solo de lo rápido que avance, sino también de nuestra capacidad para desarrollarla de forma responsable», considera.

    Sobre la regulación, Pizarroso destaca los avances logrados en Europa con el reglamento sobre inteligencia artificial y la existencia en España de la Agencia Española de Supervisión de Inteligencia Artificial. Sin embargo, advierte que «aprobar una regulación y conseguir que funcione son dos cosas diferentes» y plantea la necesidad de auditorías externas e independientes, acompañadas de capacidad de inspección de los reguladores.

    Ambos expertos coinciden además en la importancia de mejorar la formación sobre inteligencia artificial entre ciudadanos, trabajadores, empresas y autoridades.

    «Necesitamos alfabetización en IA tanto entre los ciudadanos como entre quienes toman decisiones sobre su implantación. No podemos pretender regular adecuadamente una tecnología que administraciones, empresas y ciudadanos no comprenden suficientemente», afirma Pizarroso.

    Para Cejudo, «La regulación establece las reglas; la formación permite aplicarlas con criterio».

     

  • Los ciberdelincuentes utilizan falsos agentes de IA para engañar y robar criptomonedas

    Los ciberdelincuentes utilizan falsos agentes de IA para engañar y robar criptomonedas

    Los ciberdelincuentes están aprovechando el creciente interés por los agentes de inteligencia artificial (IA) para engañar a usuarios y conseguir que instalen programas maliciosos capaces de robar credenciales y fondos de monederos de criptomonedas, según el último informe de HP Wolf Security.

    El informe, elaborado tras analizar millones de dispositivos entre abril y junio, identificó tres campañas recientes. Entre ellas destaca el uso de falsos agentes de IA para operaciones con criptomonedas, además de ataques de suplantación mediante códigos QR y nuevas herramientas diseñadas para ampliar la distribución de programas maliciosos.

    Una de las campañas promovía un sitio denominado “tradingclaw”, presentado como un asistente de IA capaz de supervisar carteras y realizar operaciones de criptomonedas. En realidad, la plataforma distribuía Needle Stealer, un programa malicioso que busca extensiones de monederos instaladas en los navegadores.

    Una vez identificadas extensiones como Coinbase y MetaMask, el programa las sustituye por imitaciones maliciosas. Cuando las víctimas introducen sus credenciales, los atacantes pueden obtenerlas y utilizarlas posteriormente para apropiarse de los fondos almacenados en sus monederos.

    Patrick Schläpfer, investigador principal de HP Security Lab, advirtió que los atacantes «están aprovechando la adopción de herramientas de IA agéntica para desarrollar nuevos señuelos que engañan a los usuarios y les llevan a descargar ‘software’ malicioso que parece legítimo». Esto provoca que la distribución de programas maliciosos «sea más sofisticada y difícil de detectar».

    HP también detectó el uso de Phantom Gate, una herramienta empleada para ampliar campañas de Phantom Stealer, enfocadas en obtener credenciales y datos financieros. Schläpfer señaló que estas nuevas herramientas reflejan «la expansión del panorama de amenazas», al permitir crear «cadenas de infección peligrosas» y aumentar «el riesgo de que las organizaciones se vean comprometidas».

    Otra modalidad utiliza documentos PDF con contenido aparentemente bloqueado que solicitan escanear un código QR desde el teléfono para acceder a la información. El código dirige a las víctimas hacia páginas fraudulentas diseñadas para obtener sus credenciales, trasladando el ataque desde computadoras hacia dispositivos móviles que pueden disponer de menores medidas de protección.

    Los datos de HP indican que al menos 10 % de las amenazas recibidas por correo electrónico y detectadas por HP Sure Click lograron evadir uno o más filtros de seguridad. Los archivos ejecutables representaron 40 % de los mecanismos utilizados para distribuir programas maliciosos, seguidos por archivos comprimidos con 38 % y documentos PDF con 7.5 %. Ante estas técnicas, la compañía recomienda a las organizaciones aplicar esquemas de seguridad basados en aislamiento y contención.

     

     

  • Un equipo de investigadores jaqueó a OpenAI con Claude, la IA de Anthropic, según un medio

    Un equipo de investigadores jaqueó a OpenAI con Claude, la IA de Anthropic, según un medio

    Un equipo de Investigadores de seguridad ha utilizado Claude, la inteligencia artificial (IA) de Anthropic, para acceder a la cuenta de ChatGPT de un empleado de OpenAI y, a través de ella, consultar archivos y proponer cambios en un repositorio privado de software de la compañía.

    Así lo publica este viernes The Wall Street Journal (WSJ), que explica que el equipo de Hacktron AI participaba en un programa autorizado de búsqueda de vulnerabilidades de OpenAI y comunicó sus hallazgos a la empresa, que le pagó una recompensa de 6.500 dólares.

    “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos», asegura OpenAI en una declaración recogida por el periódico.

    La investigación comenzó el 23 de julio, cuando el equipo encontró un fallo en el procesamiento de determinados archivos de imagen por parte de la plataforma Discourse.

    Los especialistas tenían acceso a una versión de Claude Opus 4.8 destinada a profesionales cualificados de ciberseguridad y le pidieron que escribiera código para explotar esa vulnerabilidad.

    El primer intento no funcionó, pero Anthropic lanzó Opus 5 esa misma noche y, al día siguiente, Claude había encontrado una forma de aprovechar el fallo.

    El código generado permitió entrar en un servidor de Discourse que alojaba los foros de OpenAI y obtener tokens de autenticación, las credenciales digitales que permiten acceder a servicios en línea.

    Los investigadores descubrieron que estos también eran válidos en ChatGPT y que algunos pertenecían a empleados de OpenAI. Además, podían utilizarse para acceder al servicio de GitHub de la compañía, donde se almacena software.

    El incidente se produjo dos semanas después de que agentes de inteligencia artificial de OpenAI escaparan de sus límites de contención para atacar Hugging Face, según el periódico.

    Tras ambos episodios, OpenAI realizó una auditoría de seguridad. Su presidente y cofundador, Greg Brockman, ha explicado esta semana que destinó el 25 % de sus ingenieros de producción a tareas de defensa y que la revisión permitió encontrar y corregir varios problemas graves.

     

  • Del reciclaje físico al reciclaje digital: cómo la IA puede ayudar a proteger el planeta

    Del reciclaje físico al reciclaje digital: cómo la IA puede ayudar a proteger el planeta

    La Inteligencia Artificial está transformando radicalmente la manera en que personas y empresas generan información.

    Antes, crear un documento, una presentación, una imagen, un análisis o distintas versiones de estos contenidos requería tiempo y esfuerzo. Hoy, la IA puede hacerlo en segundos. En el futuro, esta capacidad se extenderá aún más a la producción de grandes volúmenes de audio, video, animaciones y otros contenidos digitales.

    Esta transformación representa una enorme oportunidad, pero también genera un nuevo desafío: La capacidad para generar información está creciendo mucho más rápido que nuestra capacidad para administrarla.

    Cada vez acumulamos más documentos, imágenes, presentaciones, borradores, versiones, correos y archivos multimedia. Una parte de esa información tiene gran valor y debe conservarse; otra está duplicada, es temporal u obsoleta, o simplemente ha quedado olvidada.

    Así surge un nuevo concepto que debemos comenzar a reconocer: La basura digital: un residuo que no podemos ver.

    Durante décadas hemos aprendido a reducir, separar y reciclar la basura física. Es un problema que podemos ver.

    La basura digital es diferente.

    Una fotografía duplicada, diez versiones de una presentación o un documento que nunca volveremos a utilizar no parecen representar un problema. Sin embargo, la información digital necesita centros de datos, servidores, redes, refrigeración y energía para almacenarse y mantenerse disponible.

    El problema no es conservar información, sino almacenarla sin saber si tiene valor, está duplicada o desactualizada, o volverá a utilizarse. La basura digital es un problema invisible, y la IA puede acelerar su crecimiento porque facilita extraordinariamente la producción de información.

    1. La IA genera

    La magnitud del cambio ya comienza a observarse en las organizaciones. Un estudio de IDC patrocinado por Seagate señala que el 78 % de las organizaciones ya genera con IA tipos de contenido que antes no producía; el 57 % genera más versiones de un mismo documento y el 46 % reconoce que la facilidad para crear contenido provoca que se almacenen mayores volúmenes de documentos similares o innecesarios. Además, el 66 % espera incrementos moderados o significativos en sus necesidades de almacenamiento durante los próximos dos años debido a la IA generativa.

    La IA se está convirtiendo, por tanto, en un multiplicador de la producción de información. Y aquí surge la pregunta: ¿Cómo vamos a administrar todo lo que ahora somos capaces de generar?

    2. La IA limpia

    La paradoja es que la misma tecnología que acelera el problema puede ayudarnos a solucionarlo.

    Si la IA puede crear, leer, analizar, comparar y clasificar información, también puede ayudarnos a administrar su ciclo de vida.De aquí surge la idea de un robot o asistente de limpieza digital. Cada persona podría contar con un asistente entrenado de acuerdo con sus necesidades y configurado con sus propias reglas. Su función no sería solamente encontrar información, sino ayudar a mantener limpio nuestro entorno digital.

    El asistente podría identificar documentos duplicados y sus distintas versiones, localizar información que ya no se utiliza, reconocer archivos obsoletos y relacionar documentos vinculados. A partir de ese análisis, recomendaría qué conservar o archivar y señalaría qué podría eliminarse. Pero existe una condición fundamental: El asistente no debe decidir arbitrariamente qué eliminar. Las reglas las establece la persona.

    Por ejemplo, podría indicarle:

    “Conserva todos mis documentos financieros.”

    “Elimina archivos temporales después de 90 días.”

    “Cuando existan varias versiones de un documento, identifica la más reciente y

    pregúntame qué hacer con las anteriores.”

    Así, el objetivo no sería borrar por borrar, sino utilizar la IA para tomar una mejor

    decisión mediante tres acciones posibles:

    Conservar → Archivar → Eliminar.

    Este mismo concepto puede llevarse a las empresas.

    Los robots o asistentes corporativos podrían trabajar sobre la información distribuida en SharePoint, OneDrive, Google Drive, servidores, correos, Teams, sistemas documentales y otras plataformas, siempre bajo las políticas, permisos y obligaciones de la organización.

    El objetivo sería pasar de: “Almacenar todo por si algún día lo necesitamos” a “Conservar aquello que tiene valor, de acuerdo con reglas y políticas claramente definidas.”

    3. La IA mide

    Limpiar información es importante, pero también necesitamos saber qué está ocurriendo.No podemos gestionar aquello que no podemos ver y medir. Por eso se propone crear un indicador llamado Digital Carbon Footprint Score, o índice de huella de carbono digital. Su propósito sería medir el impacto asociado al almacenamiento y la gestión de información mediante métricas que ayuden a generar conciencia y mejores hábitos.

    No tendría como objetivo penalizar a los colaboradores. Su principio sería: Medir para mejorar, no medir para castigar.

    Entre las posibles variables del indicador estarían los gigabytes almacenados por empleado, el crecimiento mensual, la información sin uso, la duplicidad y el número de versiones. También podrían medirse la información eliminada o archivada, el espacio recuperado y una estimación de la energía asociada al almacenamiento. Esta última sería una aproximación basada en las características de la infraestructura utilizada.

    Hacer visible lo invisible

    Para convertir la medición en conciencia y facilitar la toma de decisiones, podrían existir tres niveles de paneles de información.

    Estos niveles serían: un panel personal, un panel por área y un panel corporativo. Esta visibilidad contribuiría a crear una nueva cultura: la higiene digital.

    El objetivo final no es eliminar archivos. Es crear una nueva cultura. Así como hemos aprendido a cuidar el agua, ahorrar energía, reducir el consumo de papel y reciclar nuestros residuos físicos, necesitamos desarrollar hábitos de higiene digital.

    No se trata de tener miedo de almacenar información. Se trata de ser conscientes del valor y del costo de la información que conservamos. El nuevo reto de la era de la IA

    Y aquí está la paradoja: La IA facilita la creación de información, pero esa misma facilidad exige mejores criterios para conservarla, organizarla y eliminarla de manera responsable.

    El siguiente paso es convertir esta visión en práctica: definir reglas de conservación, probar asistentes de limpieza digital y medir periódicamente la evolución del almacenamiento, la duplicidad y la información sin uso.Así, la higiene digital puede dejar de ser un concepto para convertirse en un hábito personal y organizacional.

    “La IA nos dio la capacidad de generar información casi sin límites. Ahora debemos desarrollar la capacidad de saber qué merece permanecer”.

  • Elon Musk propone revisión cruzada de modelos de inteligencia artificial

    Elon Musk propone revisión cruzada de modelos de inteligencia artificial

    El empresario Elon Musk propuso que las principales compañías dedicadas al desarrollo de inteligencia artificial (IA) permitan que sus competidores sometan sus modelos a evaluaciones de seguridad, como una medida para identificar posibles riesgos asociados con el rápido avance de esta tecnología.

    El director ejecutivo de Tesla y SpaceX planteó la iniciativa durante una intervención remota en la All-In Summit, celebrada en Los Ángeles y que reúne a responsables de algunas de las principales compañías vinculadas al desarrollo de inteligencia artificial. «Creo que lo más sensato sería, cuanto antes —si no de inmediato—, que los principales competidores en IA probaran los modelos de los demás; de este modo, los sistemas de pruebas de seguridad de cada empresa evaluarían los modelos de todas las demás», explicó Musk.

    El magnate mencionó específicamente a su compañía xAI, OpenAI, Anthropic, Google y Meta, además de «tres o cuatro de las principales compañías chinas», entre las empresas que, a su juicio, deberían permitir evaluaciones cruzadas de sus sistemas de inteligencia artificial, según información citada por CNBC.

    Musk considera que permitir el análisis de los modelos por parte de compañías rivales ofrecería una evaluación adicional sobre los posibles riesgos de cada sistema. «En lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola y dando la voz de alarma si detectan algún motivo de preocupación», indicó el dueño de xAI.

    La propuesta surge en momentos en que responsables de importantes laboratorios de inteligencia artificial han expresado preocupaciones sobre la velocidad con la que evoluciona esta tecnología y la capacidad de las medidas de seguridad para avanzar al mismo ritmo.

    Entre las figuras que plantearon la necesidad de reducir el ritmo de desarrollo del sector figuran Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Demis Hassabis, de Google DeepMind. Los llamados buscan dar mayor margen al desarrollo de salvaguardas frente a los posibles riesgos asociados con sistemas de inteligencia artificial cada vez más avanzados.

    Las advertencias también cobraron fuerza después de comentarios realizados por el investigador tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, quien planteó un escenario extremo en el que el desarrollo de la inteligencia artificial podría alcanzar niveles similares a los presentados en películas de ciencia ficción.

    Coxon advirtió que la inteligencia artificial podría representar incluso un riesgo para la supervivencia humana antes de finalizar esta década. En este contexto, Musk plantea que la revisión de modelos entre compañías competidoras funcione como un mecanismo adicional para detectar posibles problemas de seguridad antes de que sistemas más avanzados sean desplegados.

     

     

  • Trump tacha de «fuerzas negativas» a quienes piden regular la IA y dice que «no sucederá»

    Trump tacha de «fuerzas negativas» a quienes piden regular la IA y dice que «no sucederá»

    El presidente estadounidense, Donald Trump, tachó este domingo de «fuerzas negativas» a quienes piden regular la inteligencia artificial (IA) pese a las alertas de los líderes del sector, como Dario Amodei, Sam Altman y Elon Musk, sobre los creciente riesgos de la tecnología.

    «Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad», declaró Trump a los medios en Irlanda.

    Ante las preguntas de la prensa antes de un partido de golf en Irlanda, el mandatario desestimó las peticiones de Amodei, el fundador de Anthropic, de ralentizar el desarrollo de la IA al argumentar que Estados Unidos debe mantener el liderazgo de esta tecnología ante China.

    «Estamos liderando ante China en IA. Somos el país más sofisticado del mundo. Y, francamente, quiero mantenerlo de esa manera porque quien gane con la IA, gana», insistió el presidente.

    Trump se pronunció tras la polémica que desató el director de Anthropic el sábado, cuando publicó un ensayo para urgir «un ritmo más lento» a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Altman, de OpenAI, y Musk, de xAI, un hecho inédito en el sector.

    Amodei advirtió de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, por lo que pidió que haya evaluaciones independientes de estas herramientas y que el Gobierno se involucre.

    Las declaraciones del mandatario coinciden con las del líder de la Cámara de Representantes, el republicano Mike Johnson, quien rechazó este domingo una moratoria de emergencia de la IA para evitar, según él, que China tenga el liderazgo, además de pedir una reunión con las compañías del sector este lunes o martes.

    En contraste, el líder de los demócratas en la Cámara Baja, Hakeem Jeffries, pidió ahora al Congreso «actuar con urgencia» para ralentizar la IA, y adelantó que el martes habrá una reunión con los miembros de su partido en la Cámara Baja en la que «una alta prioridad será la acción en inteligencia artificial».

    Las declaraciones de Amodei se dan luego de que un investigador de Anthropic anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

    El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

    «Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor», escribió Coxon en su cuenta de X el pasado martes.

  • El director de Anthropic afirma que «la industria mintió» sobre el peligro de la IA

    El director de Anthropic afirma que «la industria mintió» sobre el peligro de la IA

    El fundador de Anthropic, Dario Amodei, afirmó que «la industria mintió» sobre el peligro de la inteligencia artificial (IA) por lo que el Gobierno y los ciudadanos deben intervenir, según una entrevista publicada este domingo tras la polémica que él desató el sábado por los riesgos de la tecnología.

    «No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo», declaró Amodei en una entrevista al programa ‘Sunday Morning’ de CBS.

    El director de Anthropic hizo estas declaraciones tras publicar el sábado un ensayo para urgir «un ritmo más lento» a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector de la IA.

    Aunque Amodei advirtió en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en su entrevista de este domingo rechazó una «prohibición completa» de la tecnología.

    «No creo que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios», señaló el empresario.

    El ejecutivo consideró «el dilema más duro» del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología.

    Aún así, reconoció que se siente «incómodo» de que sea una empresa privada y no un gobierno electo de forma democrática quien esté a cargo de una herramienta tan poderosa, por lo que pidió que haya una «combinación de gobiernos democráticos» que tengan una «gobernanza conjunta» y un monitoreo de las compañías de IA.

    «Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta», apuntó.

    Pese a sus alertas, el presidente estadounidense, Donald Trump, y el líder de la Cámara de Representantes, Mike Johnson, consideraron este domingo que el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo en la tecnología.

    Las declaraciones de Amodei se dan luego de que un investigador de Anthropic anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

    El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

    «Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor», escribió Coxon en su cuenta de X el pasado martes.