OpenAI presentó este viernes el modo Ultrafast, una nueva modalidad diseñada para ejecutar su modelo GPT-5.6 Sol con una velocidad hasta 14 veces superior al procesamiento convencional, con el objetivo de mejorar el rendimiento en tareas que demandan respuestas en tiempo real.
Según explicó la compañía en su sitio web, Ultrafast puede generar hasta 750 tokens por segundo, lo que representa un avance significativo para aplicaciones que requieren baja latencia y un procesamiento más ágil de grandes volúmenes de información.
El lanzamiento se produce pocos días después de la presentación de GPT-5.6 Cyber, un modelo especializado en ciberseguridad avanzada, y forma parte de la estrategia de OpenAI para ampliar las capacidades de su familia de modelos de inteligencia artificial.
La empresa señaló que esta nueva tecnología busca resolver una limitación frecuente para desarrolladores y compañías que necesitaban velocidad sin sacrificar el rendimiento de modelos avanzados. «Hasta ahora, acceder a velocidad en tiempo real significaba elegir un modelo más pequeño o más especializado. Ultrafast apunta a un progreso en una nueva dirección: más trabajo útil por segundo», indicó OpenAI en su blog.
Entre las aplicaciones previstas para este modo destacan la respuesta a incidentes tecnológicos, donde puede analizar registros durante fallos críticos, así como tareas de investigación financiera para detectar señales del mercado y patrones de comportamiento en tiempo real.
El funcionamiento de Ultrafast es posible gracias a la alianza entre OpenAI y el fabricante de chips Cerebras, cuya tecnología de inferencia de baja latencia permite acelerar el procesamiento del modelo GPT-5.6 Sol.
Por ahora, OpenAI informó que Ultrafast estará disponible únicamente en una fase de vista previa para un grupo limitado de clientes, mientras continúa ampliando la capacidad de su infraestructura tecnológica.
La compañía adelantó que el acceso al nuevo modo se extenderá progresivamente conforme aumente la capacidad del sistema, con el objetivo de ofrecer esta función a un mayor número de usuarios y empresas que requieran procesamiento de inteligencia artificial en tiempo real.
Deja una respuesta