Etiqueta: ChatGPT Plus

  • ChatGPT estrena un modo de bloqueo para resguardar información sensible en empresas

    ChatGPT estrena un modo de bloqueo para resguardar información sensible en empresas

    OpenAI incorporó un modo bloqueo en ChatGPT para elevar la protección de información sensible en entornos empresariales. La función está orientada a reducir el riesgo de exposición ante técnicas de prompt injection, un tipo de manipulación en el que instrucciones externas intentan alterar el comportamiento esperado del asistente de IA.

    La novedad llega en un momento en el que las empresas integran modelos generativos en tareas de soporte, análisis documental, programación, atención interna y gestión del conocimiento. En esos escenarios, los sistemas pueden interactuar con correos, archivos, bases de datos o contenidos web. El nuevo modo añade una capa de control para limitar operaciones potencialmente delicadas cuando el modelo procesa información no verificada o instrucciones procedentes de terceros.

    Un control más para adopción corporativa

    El objetivo no es frenar el uso de IA, sino hacerlo más administrable. La inyección de instrucciones se ha convertido en un desafío técnico para productos que combinan lenguaje natural, herramientas externas y acceso a datos corporativos. Un asistente puede recibir una orden legítima del usuario y, al mismo tiempo, encontrar instrucciones ocultas en un documento o una página. El modo bloqueo busca reducir ese vector mediante restricciones adicionales en el tratamiento de información sensible.

    Para los responsables de tecnología, la función encaja con una tendencia más amplia: convertir los asistentes de IA en sistemas gobernables, auditables y compatibles con políticas internas. La seguridad ya no depende solo del modelo base. También requiere permisos, aislamiento de datos, trazabilidad, controles por usuario y configuración según el nivel de exposición de cada flujo de trabajo.

    Seguridad como requisito de productividad

    La mejora refuerza la posición de los asistentes generativos como herramientas de productividad empresarial. Su valor aumenta cuando pueden operar sobre datos reales de la organización sin ampliar innecesariamente la superficie de riesgo. En la práctica, este tipo de controles permite usar IA en procesos más exigentes: revisión legal preliminar, análisis financiero, consultas sobre documentación interna o automatización de tareas repetitivas.

    El movimiento confirma que la competencia en IA empresarial ya no se mide solo por velocidad o calidad de respuesta. También pesa la capacidad de ofrecer seguridad configurable, integración con políticas corporativas y mecanismos para contener comportamientos no deseados durante el procesamiento de información.

  • OpenAI niega pruebas de anuncios en ChatGPT y aclara integración de apps

    OpenAI niega pruebas de anuncios en ChatGPT y aclara integración de apps

    OpenAI descartó este viernes que esté probando la incorporación de anuncios en ChatGPT, luego de que circularan capturas de pantalla con supuestas sugerencias de compra integradas al asistente. La compañía aclaró que dichas imágenes corresponden a pruebas limitadas de integración de aplicaciones, y que estas ya fueron desactivadas mientras ajustan su funcionamiento.

    La polémica surgió cuando usuarios, incluyendo el exempleado de xAI, Benjamin De Kraker, compartieron capturas donde aparecían opciones de compra en tiendas como Target, dentro de conversaciones sobre temas no relacionados, como Windows BitLocker. Estas interacciones se produjeron a través de cuentas de suscripción a ChatGPT Plus y Pro.

    Frente a esto, Nick Turley, director de ChatGPT, negó que se tratara de anuncios y sostuvo que las imágenes difundidas “no son reales o no son anuncios”, según publicó en la red social X.

    Por su parte, Daniel McAuley, empleado de OpenAI, explicó que estas sugerencias formaron parte de una prueba de la experiencia de integración de aplicaciones, anunciada en octubre, junto a socios como Devday y Target. Añadió que el objetivo es que estas integraciones “mejoren la experiencia del usuario cuando sean relevantes para una conversación”.

    OpenAI aseguró que está trabajando para que el mecanismo de descubrimiento de aplicaciones dentro de ChatGPT sea más natural y que cualquier empresa podrá crear apps mediante el SDK, cuya disponibilidad pública será anunciada pronto.

    El director de investigación de OpenAI, Mark Chen, también se pronunció sobre las preocupaciones, reconociendo que “todo lo que parezca publicidad debe manejarse con cuidado”, y admitió que en esta ocasión no lograron hacerlo correctamente.

    Como medida, OpenAI decidió desactivar temporalmente estas sugerencias mientras perfeccionan el modelo, y adelantaron que implementarán controles para que los usuarios puedan limitar o desactivar este tipo de funciones si así lo desean.

    Turley concluyó que, en caso de considerar la incorporación de anuncios en el futuro, lo harán “con mucho cuidado”. “La gente confía en ChatGPT y todo lo que hagamos estará diseñado para respetar esa confianza”, aseguró.