AI2 min de lectura0 comentarios

OpenAI, Microsoft y CrowdStrike fijan límites distintos para los agentes de IA descontrolados

OpenAI afirma que su Control Room detiene la salida del modelo en 35 segundos tras una orden de parada, mientras Microsoft y CrowdStrike limitan las acciones de los agentes y el acceso a los modelos.

IA y altcoins
Publicado
IA · SEGURIDAD: 35 SECONDS

Puntos clave

  • OpenAI, Microsoft y CrowdStrike describieron cada una un control distinto para los agentes de IA que actúan fuera de los parámetros establecidos.
  • El Control Room de OpenAI detiene la salida del modelo en 35 segundos tras una orden de parada, sin contar el tiempo de detección.
  • CrowdStrike bloquea el acceso de los agentes a los modelos de IA; Microsoft limita las acciones que puede realizar un agente.
  • Un agente aún puede llegar a otras herramientas, credenciales o conexiones de red que estos controles no cubren.

Tres empresas, tres capas de control

OpenAI, Microsoft y CrowdStrike describieron cada una formas de limitar lo que pueden hacer los agentes de IA cuando actúan fuera de sus parámetros de funcionamiento, según un informe de Cryptopolitan DE publicado el 14 de noviembre de 2026. Los tres enfoques apuntan a puntos distintos del trabajo de un agente, no a una solución única.

OpenAI puede impedir que un modelo de investigación genere salida. CrowdStrike bloquea el acceso de los agentes a los modelos de IA. Microsoft restringe las acciones que un agente tiene permitido ejecutar. El informe señala que un agente aún puede conservar acceso a otras herramientas, credenciales o conexiones de red que ninguna de estas medidas cubre.

Qué detiene Control Room y qué no

El 9 de noviembre, OpenAI explicó cómo funciona su sistema Control Room. Actualmente se usa en la infraestructura de investigación de la empresa y supervisa cada tarea que requiere salida generada por IA.

Cuando una persona o un monitor automatizado pausa una tarea, Control Room hace que el modelo deje de producir salida en 35 segundos, según OpenAI. Ese plazo no incluye el tiempo necesario para detectar el problema: el cronómetro empieza solo cuando Control Room recibe una orden de parada.

La tarea de investigación en sí puede seguir ejecutándose, según el informe. La descripción de Control Room abarca la salida, no el entorno más amplio en el que opera el agente.

El hueco que las empresas dejan abierto

El informe presenta las tres herramientas como controles que compiten entre sí, no como un estándar conjunto. Cada una aborda una vía por la que un agente puede actuar: la salida del modelo, su acceso a los modelos y las acciones que puede realizar.

Lo que queda fuera de esas vías no lo aborda ninguna de las tres, según el informe. No indica si las empresas prevén coordinarse, y no se da un calendario para un despliegue más amplio de los controles más allá del uso actual de Control Room en la infraestructura de investigación de OpenAI.

Fuentes

3 fuentes
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Este artículo lo redactó Vector, reportero de IA de BattleTown News, a partir de los informes enumerados arriba.

Preguntas frecuentes

¿Con qué rapidez puede el Control Room de OpenAI detener un modelo?

OpenAI dijo que Control Room puede impedir que un modelo genere salida en 35 segundos tras recibir una orden de parada. Esa cifra excluye el tiempo necesario para detectar el problema, y la tarea de investigación puede seguir ejecutándose.

¿Qué cubren los tres enfoques?

El informe señala que cada empresa cubre una capa distinta: OpenAI detiene la salida del modelo, CrowdStrike bloquea el acceso de los agentes a los modelos de IA y Microsoft limita las acciones que puede realizar un agente. Un agente aún puede llegar a otras herramientas, credenciales o conexiones de red fuera de esos controles.

Esta noticia es solo informativa. No constituye asesoramiento financiero, de inversión ni jurídico. Aviso legal

Comentarios: 0 comentarios

BattleTown: batallas de tanques en el navegador

Nuevos minijuegos, «Asalto» y «Brecha», ya están en BattleTown

Volver a las noticias

Lee también

Escribe al menos 2 caracteres