Redacción HCloud

Etiqueta: agentes de inteligencia artificial

  • OpenAI pagó $300 a investigador que descubrió una falla para acceder gratis a sus modelos de pago

    OpenAI pagó $300 a investigador que descubrió una falla para acceder gratis a sus modelos de pago

    La compañía tecnológica OpenAI enfrenta críticas después de que un investigador de seguridad revelara que recibió únicamente $300 como recompensa por descubrir una vulnerabilidad que permitía acceder gratuitamente a sus modelos de inteligencia artificial (IA) de pago, sin necesidad de autenticación ni de disponer de una clave de interfaz de programación de aplicaciones (API).

    El investigador Oliver Fish publicó este miércoles en su cuenta de X una captura de pantalla en la que mostró el pago recibido a través del programa de recompensas de OpenAI. Según explicó, el fallo permitía acceder a la API interna Responses de la compañía, una herramienta que facilitaba el uso de modelos de IA que normalmente requieren un servicio de pago.

    Fish cuestionó la cantidad entregada por la tecnológica, al considerar que los $300 no corresponden con la gravedad de una vulnerabilidad que podía permitir el acceso a servicios restringidos sin necesidad de identificarse. El especialista manifestó su descontento y aseguró que, después de esta experiencia, no tiene motivos para continuar reportando otros fallos de seguridad que pueda encontrar en los sistemas de OpenAI.

    La denuncia también provocó reacciones en Reddit, donde varios usuarios coincidieron en que la recompensa resulta demasiado baja para una empresa dedicada al desarrollo de inteligencia artificial. Algunos participantes señalaron que una vulnerabilidad de estas características podría tener consecuencias económicas para la compañía, al permitir utilizar gratuitamente herramientas que normalmente requieren una suscripción o acceso de pago.

    Usuarios cuestionan recompensas por fallos de seguridad

    La discusión en Reddit también abrió un debate sobre los incentivos que ofrecen las grandes empresas tecnológicas a los investigadores de ciberseguridad. Algunos usuarios sugirieron que aprovechar la vulnerabilidad habría generado mayores beneficios económicos que reportarla, aunque otros advirtieron sobre las posibles consecuencias legales de utilizar fallos informáticos sin autorización. También surgieron críticas hacia las prácticas de compañías como Microsoft, Apple y Google, a partir de experiencias similares compartidas por integrantes de la comunidad.

    Un antecedente ocurrió en julio de 2025, cuando el investigador RenwaX23 recibió una recompensa de apenas $1,000 por descubrir la vulnerabilidad CVE-2025-30466 en el navegador Safari, según informó el medio especializado 9to5Mac. El fallo, corregido posteriormente en Safari 18.4, recibió una calificación de gravedad de 9.8 sobre 10 por parte de Apple, pese a que su programa de recompensas contempla pagos de hasta $2 millones.

    En el caso de OpenAI, la compañía mantiene un programa de recompensas mediante la plataforma Bugcrowd, que establece pagos habituales de entre $200 y $6,500 por vulnerabilidad detectada. Sin embargo, la tecnológica puede modificar los montos y la prioridad de cada reporte dependiendo de la probabilidad de explotación y del impacto que represente el problema de seguridad.

    La recompensa de $300 entregada a Oliver Fish sugiere que OpenAI clasificó la vulnerabilidad con un nivel de gravedad bajo, aunque el investigador considera que el fallo representaba un riesgo importante para sus servicios de inteligencia artificial. Hasta el momento, la empresa no emitió una respuesta pública sobre las críticas relacionadas con el pago ni sobre los cuestionamientos al funcionamiento de su programa de recompensas.

  • Compañía francesa Mistral presenta modelo de IA para competir globalmente

    Compañía francesa Mistral presenta modelo de IA para competir globalmente

    La francesa Mistral, considerada la principal empresa de inteligencia artificial de la Unión Europea (UE), presentó este martes Mistral Large 4, un nuevo modelo de lenguaje con el que busca competir con las estadounidenses Anthropic, OpenAI y Google, así como con varias compañías de IA de China.

    El cofundador de Mistral, Guillaume Lample, aseguró en un comunicado que con el lanzamiento la empresa francesa «recorta la distancia» con los mejores modelos, en momentos en que Europa enfrenta críticas por haberse rezagado en la carrera mundial por el desarrollo de la inteligencia artificial.

    Mistral indicó que Large 4 se encuentra entre «los mejores modelos del mundo en métricas agregadas» dentro del código abierto, una característica que permite a empresas y desarrolladores descargarlo, personalizarlo y ejecutarlo en sus propios servidores.

    Este funcionamiento también permite utilizar el modelo sin necesidad de enviar los datos a terceros o depender de una infraestructura privada externa, una de las características destacadas por la compañía francesa en la presentación.

    «Alcanza un rendimiento de vanguardia (…) en sectores esenciales: la ciberseguridad, los procesos industriales y las finanzas», añadió, por su parte, Pierre Stock, vicepresidente a cargo del área científica de Mistral.

    El lanzamiento se produce un mes después de que Mistral consiguiera 3,000 millones de euros para una ampliación de capital, en una operación en la que participó el gigante surcoreano Samsung y que valoró al grupo francés de inteligencia artificial en más de 21,000 millones de euros.

    Mistral fue fundada en abril de 2023 por su actual consejero delegado, Arthur Mensch; su director científico, Guillaume Lample; y su director técnico, Timothée Lacroix. Desde entonces, la compañía experimentó un rápido crecimiento dentro del sector de la inteligencia artificial.

    Ese avance convirtió a Mistral en un activo de importancia estratégica para Francia más allá de su dimensión económica. El presidente francés, Emmanuel Macron, respaldó a la compañía como una herramienta para disponer de una alternativa soberana europea en un mercado de inteligencia artificial dominado ampliamente por empresas estadounidenses y chinas.

  • OpenAI incorporará marcas de agua invisibles en textos generados por ChatGPT en la UE

    OpenAI incorporará marcas de agua invisibles en textos generados por ChatGPT en la UE

    OpenAI anunció este lunes que incorporará marcas de agua invisibles en determinados textos generados mediante ChatGPT y Codex en la Unión Europea (UE), como parte de las medidas de la compañía para cumplir con la Ley de Inteligencia Artificial del bloque comunitario.

    «Durante las próximas semanas, incorporaremos la marca de agua de texto para usuarios elegibles de ChatGPT y Codex de todos los planes, únicamente en la UE», especificó la compañía al explicar su nuevo enfoque sobre la «procedencia de contenido».

    La empresa también indicó que desde este lunes los clientes de su interfaz de programación de aplicaciones (API) alrededor del mundo podrán activar voluntariamente las marcas de agua en los textos producidos por determinados modelos. La función permanecerá desactivada por defecto para permitir que cada cliente determine cómo utilizarla según sus «obligaciones de transparencia».

    OpenAI señaló además que trabaja junto con proveedores de computación en la nube para «poner la marca de agua a disposición de las salidas de los modelos de OpenAI a las que se accede mediante sus servicios durante las próximas semanas», añadió.

    La tecnología utilizada se denomina textGrain y funciona mediante la incorporación de una «señal estadística invisible» en las elecciones de palabras realizadas por el modelo. Este mecanismo aparentemente no modifica el rendimiento del sistema y posteriormente permite que un detector analice el contenido para determinar la posible presencia de la marca de agua.

    Sin embargo, OpenAI reconoció limitaciones en el sistema de detección, ya que puede producir falsos positivos o falsos negativos y ofrecer un menor rendimiento con textos breves. La señal también puede debilitarse cuando el contenido generado originalmente es editado, reescrito o traducido.

    Debido a esas limitaciones, el «detector» estará disponible únicamente para «investigadores y organizaciones expertas aprobados», quienes podrán presentar solicitudes para acceder a la herramienta. La marca de agua servirá para ayudar a establecer si un texto fue generado por un modelo de OpenAI, pero no determinará «quién escribió originalmente el texto ni quién es su propietario».

    La compañía también planea ofrecer públicamente la tecnología textGrain como código abierto «para que otros puedan desarrollarla». Con la incorporación de estas marcas invisibles, OpenAI busca ampliar las herramientas destinadas a identificar la procedencia de determinados contenidos producidos mediante sus modelos de inteligencia artificial.

  • Robots con manos de cuatro dedos amplían el trabajo de precisión

    Robots con manos de cuatro dedos amplían el trabajo de precisión

    La señal más clara de la semana en robótica e IA no llega de un único lanzamiento, sino de varios avances que apuntan a la misma dirección: robots más precisos, mejor integrados con humanos y más baratos de desplegar. Entre los hitos citados destacan un robot humanoide capaz de cambiar una broca con manos de cuatro dedos, plataformas que buscan convertirse en el “sistema operativo” para desarrolladores de robots y nuevos modelos de IA orientados a agentes y automatización con menor coste computacional.

    En robótica física, la capacidad de manipular herramientas sigue siendo uno de los cuellos de botella. La demostración de un humanoide realizando tareas con taladro muestra un salto práctico: no se trata solo de movilidad, sino de destreza, ajuste fino y coordinación en entornos reales. Ese tipo de avance acerca a los robots a tareas industriales, mantenimiento y operaciones semiestructuradas donde la automatización clásica pierde flexibilidad.

    Coordinación industrial y datos de entrenamiento

    Otro frente relevante es la capa de software. Startups como Destro AI y Feather están centrando su propuesta en conectar lenguaje, visión y acción para que robots y trabajadores compartan contexto operativo. El objetivo no es sustituir procesos completos de golpe, sino acelerar despliegues, reducir errores de interpretación y simplificar la programación. En paralelo, firmas enfocadas en datos de entrenamiento para robots ganan valor porque la physical AI depende de grandes volúmenes de demostraciones, teleoperación y validación en escenarios concretos.

    En IA general, los movimientos de OpenAI, Anthropic y Google refuerzan esa tendencia. La industria empuja hacia modelos más eficientes, asistentes con ejecución de tareas y accesos más controlados durante pruebas de seguridad. Ese enfoque convierte la seguridad y las restricciones iniciales en una fase de ajuste técnico antes del despliegue amplio, especialmente cuando los sistemas pueden interactuar con herramientas externas, mapas, aplicaciones o procesos empresariales.

    El patrón común es nítido: la robótica avanza cuando mejora la manipulación y la IA avanza cuando reduce coste, aumenta fiabilidad y se conecta mejor con el trabajo real. La convergencia de ambas ya no depende solo de prototipos vistosos, sino de métricas operativas: precisión, tiempo de integración y retorno industrial.

  • Google reserva Gemini 4 Argon para defensa cibernética avanzada

    Google reserva Gemini 4 Argon para defensa cibernética avanzada

    Google activó Gemini 4 Argon, descrito por varias fuentes como su modelo de IA más potente hasta ahora, con un despliegue inicial dirigido a expertos en ciberseguridad y entornos de uso controlado. El dato central no es solo la potencia del sistema, sino el criterio de acceso: la compañía prioriza aplicaciones de defensa digital, investigación técnica y validación especializada antes de una apertura más amplia.

    El movimiento sitúa a Gemini 4 Argon en la capa alta de los modelos frontier. Según los reportes recopilados, el sistema fue diseñado para tareas complejas de razonamiento, programación, investigación y análisis de seguridad. Ese enfoque lo convierte en una herramienta útil para detectar vulnerabilidades, revisar código, automatizar auditorías y acelerar flujos de respuesta en incidentes.

    Qué cambia en la carrera de modelos

    La presentación llega en una semana cargada de anuncios en IA. TechCrunch reportó que Google lo define como su modelo más poderoso; The Verge añadió que su disponibilidad inicial queda restringida a “defensores cibernéticos de confianza”; Xataka subrayó su rendimiento en benchmarks. En conjunto, las fuentes apuntan a una misma conclusión: Google vuelve a competir en la primera línea de modelos avanzados, pero con una estrategia de despliegue gradual.

    Ese esquema responde a un patrón cada vez más visible en la industria. Los laboratorios ya no solo compiten por tamaño o puntuación, sino por la gestión operativa de capacidades avanzadas. Limitar el acceso temprano permite recoger señales técnicas, ajustar salvaguardas y medir desempeño en escenarios reales de alta exigencia.

    Contexto técnico y comercial

    El anuncio también encaja con una expansión más amplia del ecosistema Gemini. Otras notas citadas mencionan nuevas funciones para automatizar tareas dentro de chats y programas para conectar el valor económico de la IA con editores web. En paralelo, competidores como OpenAI también aceleran con nuevos agentes y modelos más baratos.

    Para el mercado, el dato relevante es doble: más capacidad y más segmentación de uso. En vez de liberar toda la potencia desde el primer día, Google prueba un modelo de adopción por fases. La señal es clara: la próxima etapa de la IA avanzada se jugará tanto en rendimiento como en control de despliegue.

  • Apple perfila pagos por IA en iPhone y refuerza su giro al hardware

    Apple perfila pagos por IA en iPhone y refuerza su giro al hardware

    Apple concentra varias señales estratégicas en una misma dirección: el iPhone vuelve a ser el centro de su hoja de ruta, ahora con funciones de inteligencia artificial, nuevos formatos de hardware y una estructura de servicios potencialmente más monetizable. Entre los reportes más recientes figura la posibilidad de que la compañía cobre por capacidades avanzadas de Siri, cámara y herramientas de IA en el iPhone, un cambio relevante en un ecosistema donde el software inteligente empieza a convertirse en producto por capas.

    Ese enfoque coincide con la narrativa pública del nuevo CEO, John Ternus, que ha defendido al iPhone como el dispositivo más sólido para la era de la IA. La lógica es técnica y comercial: Apple controla silicio, sistema operativo y distribución, lo que le permite integrar modelos, procesamiento local y servicios en una misma arquitectura. En paralelo, distintos medios apuntan a un retorno a una estrategia clásica de concentración en productos clave, con el teléfono como eje del resto del catálogo.

    Más hardware, más segmentación

    La ofensiva no se limita al software. Apple ya habría presentado o anticipado nuevos equipos, incluido un iPhone plegable identificado en reportes como iPhone Duo, además de nuevas funciones en reloj y accesorios. A eso se suma una revisión de la cadena de suministro bajo Ternus, con foco en costos, manufactura y ensamblaje de dispositivos preparados para cargas de trabajo de IA.

    El mapa de producto también muestra ritmos distintos según categoría. Mientras el iPhone gana prioridad, las Vision Pro quedarían en una fase de maduración más larga, con reportes que sitúan una nueva generación hacia 2029. Al mismo tiempo, Apple sigue ampliando servicios y experiencia de plataforma, desde seguridad en iPhone hasta espacios de contenido como el nuevo recinto de Apple Music en Londres.

    La conclusión operativa es clara: Apple no está apostando a una sola novedad, sino a una combinación de IA integrada, hardware premium y servicios escalonados. Si ese modelo se consolida, el iPhone no solo seguirá siendo su producto principal; también actuaría como puerta de entrada para la siguiente capa de ingresos recurrentes.

  • Nvidia lanza plataforma para controlar agentes de inteligencia artificial

    Nvidia lanza plataforma para controlar agentes de inteligencia artificial

    Nvidia lanzó Open Agent Safety Platform, una nueva plataforma de seguridad diseñada para contener y monitorear agentes de inteligencia artificial (IA), desde su etapa de pruebas hasta su implementación, con controles sobre el ‘software’, ‘hardware’, sistemas de computación y robótica en los que operan.

    La herramienta surge después de recientes incidentes de seguridad vinculados al entrenamiento de agentes de IA. OpenAI, Anthropic, Meta y Google enfrentaron distintos problemas de desalineación de sus modelos y agentes, que lograron acceder a internet fuera de sus entornos aislados, hackear páginas web o ingresar sin autorización a empresas.

    Según Nvidia, estos incidentes tienen un elemento en común: los agentes consiguieron evadir los controles de seguridad en la capa de asignación para completar las tareas encomendadas. Frente a este riesgo, la compañía busca proporcionar a las organizaciones herramientas abiertas y personalizables para controlar agentes que pueden permanecer funcionando durante largos períodos.

    Open Agent Safety Platform permitirá gestionar y controlar el ‘software’ utilizado por los agentes, así como las capas de ‘hardware’ y computación que permiten su funcionamiento y los sistemas robóticos encargados de ejecutar tareas en el mundo físico. El director ejecutivo de Nvidia, Jensen Huang, afirmó que estas herramientas son necesarias porque «el extraordinario potencial de la IA para la sociedad» solo podrá materializarse si se resuelve «el problema de la seguridad de la IA».

    La plataforma estará basada en OpenShell, el ‘software’ de código abierto de Nvidia, y funcionará en la CPU Vera AI de la compañía. Los usuarios podrán determinar específicamente a qué información tendrá acceso un agente y, mientras este desarrolla una tarea, el sistema comprobará que respete las restricciones establecidas.

    La compañía incorporó además Nvidia Sentry, una tecnología que funciona mediante un chip independiente. Se trata de un sistema de vigilancia fuera de banda ejecutado en las DPU Nvidia BlueField 4, que supervisará continuamente el comportamiento de los agentes y podrá paralizar sus actividades cuando sea necesario.

    «Sentry proporciona seguridad integrada en el chip, lo que significa que si un agente de IA intenta salirse de su límite de software, Sentry lo pone en cuarentena y lo detiene en milisegundos», aseguró Nvidia sobre las capacidades de la tecnología.

    Sentry también se apoya en el ‘software’ Nvidia Doca, encargado de ofrecer capacidades programables para inspeccionar solicitudes y respuestas de los agentes, proporcionar telemetría certificada, verificar su identidad y aplicar políticas de acceso granulares y de confianza cero sobre datos, herramientas, interfaces de programación de aplicaciones y servicios.

     

  • Google probará chips de IA en órbita con su primer satélite propio

    Google probará chips de IA en órbita con su primer satélite propio

    Google lanzará su primer satélite con chips de IA para ensayar capacidades de procesamiento en órbita y evaluar si parte de la carga computacional puede ejecutarse fuera de la Tierra. El objetivo inmediato no es comercial, sino técnico: medir rendimiento, consumo energético, disipación térmica y fiabilidad de hardware avanzado en el entorno espacial.

    La iniciativa sitúa al satélite como un laboratorio de centro de datos orbital. En lugar de limitarse a telecomunicaciones u observación terrestre, la plataforma servirá para probar cómo responden procesadores especializados a tareas de inferencia, gestión de datos y automatización directamente en el espacio. Ese enfoque puede reducir la dependencia de estaciones terrestres para ciertos procesos y acortar tiempos de respuesta en misiones que generan grandes volúmenes de información.

    Qué cambia en la infraestructura espacial

    La novedad no está solo en el lanzamiento, sino en el tipo de arquitectura que propone. Si el experimento funciona, el procesamiento en órbita podría usarse para filtrar datos antes de enviarlos a la Tierra, optimizar ancho de banda y ejecutar análisis preliminares cerca del origen. Eso tiene aplicaciones potenciales en observación, monitorización climática, navegación y operaciones autónomas de satélites.

    Otras compañías también exploran la convergencia entre espacio e IA. En paralelo, han aparecido proyectos de satélites con procesamiento avanzado a bordo y naves con mayor autonomía operativa. El movimiento de Google confirma que la competencia ya no se limita al lanzamiento de cargas útiles: ahora se extiende a la capacidad de cómputo desplegada en órbita.

    Retos técnicos a resolver

    El ensayo deberá probar varios puntos críticos. Entre ellos, la resistencia del hardware a radiación, la gestión del calor en vacío, la eficiencia energética y la estabilidad del sistema durante ciclos prolongados de operación. También será clave verificar si el procesamiento embarcado ofrece ventajas reales frente a la infraestructura terrestre tradicional.

    Más allá del resultado puntual, la misión marca un cambio de enfoque: el espacio empieza a perfilarse no solo como plataforma de transporte o comunicación, sino como una extensión de la infraestructura digital. La prueba servirá para medir hasta qué punto la IA puede ejecutarse de forma útil, estable y eficiente fuera del planeta.

  • Nuevas baterías extienden el almacenamiento energético más allá del litio

    Nuevas baterías extienden el almacenamiento energético más allá del litio

    La novedad más consistente en energía durante los últimos días es el avance de las baterías como infraestructura. Distintas publicaciones coinciden en una misma dirección: el mercado se mueve hacia sistemas más duraderos, con recarga más rápida y aplicaciones que van desde el hogar hasta la red eléctrica. El foco ya no está solo en generar electricidad limpia, sino en conservarla mejor y usarla cuando hace falta.

    Entre los anuncios más visibles figura una nueva batería doméstica con entrada solar y respaldo eléctrico para el hogar, presentada como parte de una oferta orientada a gestión energética residencial. Este tipo de equipos busca resolver un problema central de la fotovoltaica distribuida: aprovechar excedentes solares fuera de las horas de producción y reforzar la continuidad del suministro ante cortes.

    Alternativas técnicas al litio

    En paralelo, otra línea de desarrollo apunta a la química de las celdas. Un reporte reciente destacó una batería de zinc-yodo capaz de superar las 60.000 cargas y recargarse en alrededor de tres minutos. Si esas prestaciones escalan fuera del laboratorio, la tecnología podría abrir opciones para almacenamiento estacionario de alta rotación, especialmente en plantas solares o sistemas que requieren ciclos intensivos.

    La relevancia técnica está en dos frentes. Primero, el uso de materiales alternativos puede aliviar parte de la presión sobre la cadena de suministro del litio. Segundo, una vida útil tan extensa reduce el coste total por ciclo, una métrica clave para proyectos de red, microrredes y respaldo industrial.

    Qué cambia en el mercado energético

    Este movimiento encaja con una tendencia más amplia: la energía se está rediseñando alrededor de flexibilidad, almacenamiento distribuido y resiliencia. Las baterías domésticas convierten al usuario en un nodo activo del sistema. Las químicas emergentes amplían el abanico para almacenamiento de larga duración o alta frecuencia de uso. Y el resultado potencial es una red menos dependiente de combustibles fósiles de respaldo y más capaz de absorber generación renovable variable.

    La conclusión es operativa: el próximo salto energético no depende solo de producir más electricidad limpia, sino de disponer de baterías que la hagan utilizable a escala, con mejores tiempos de carga, más ciclos y menor coste estructural.

  • YouTube abre el algoritmo y permite crear feeds con IA

    YouTube abre el algoritmo y permite crear feeds con IA

    YouTube avanza hacia un modelo de personalización más explícito: los usuarios podrán construir su propio feed describiendo qué quieren ver. La novedad, reportada por varios medios especializados, añade una capa de control sobre el sistema de recomendaciones y convierte al lenguaje natural en la nueva interfaz para ajustar el algoritmo.

    La función se apoya en IA para interpretar peticiones como temas, estilos o formatos de video, y traducirlas en selecciones de contenido. En la práctica, el usuario deja de depender solo del historial de clics, tiempo de visualización o suscripciones. Ahora puede definir de forma directa el tipo de resultados que espera recibir.

    Qué cambia en el producto

    El movimiento apunta a uno de los núcleos del negocio de las plataformas de video: la curación automatizada del contenido. Hasta ahora, el algoritmo operaba sobre señales de comportamiento. Con esta herramienta, YouTube incorpora preferencias declaradas, una señal más precisa para ajustar relevancia, descubrimiento y diversidad temática.

    El cambio también acerca la experiencia a los asistentes conversacionales. En vez de navegar múltiples menús o marcar intereses de forma manual, bastará con escribir una instrucción. Esa aproximación reduce fricción y puede mejorar la adaptación del feed para nichos, aprendizaje, entretenimiento especializado o consumo temporal ligado a eventos concretos.

    Contexto técnico y competencia

    La actualización encaja en una tendencia más amplia: grandes plataformas están integrando modelos de IA en la capa de interfaz, no solo en el procesamiento interno. El objetivo es hacer visibles sistemas antes opacos y ofrecer herramientas de ajuste más comprensibles para el usuario final.

    Además de mejorar personalización, la iniciativa puede elevar la calidad de las señales que recibe la plataforma. Si un usuario expresa de forma clara qué busca, el sistema necesita menos inferencias para responder. Eso abre la puerta a recomendaciones más útiles, sesiones más eficientes y una relación más transparente entre audiencia y algoritmo. La función todavía se presenta como una novedad en despliegue, pero su dirección es clara: menos dependencia del feed automático genérico y más control configurable asistido por IA.