AI2 min de leitura0 comentário

OpenAI, Microsoft e CrowdStrike definem limites separados para agentes de IA descontrolados

A OpenAI diz que sua Control Room interrompe a saída do modelo em até 35 segundos após um comando de parada, enquanto a Microsoft e a CrowdStrike limitam as ações dos agentes e o acesso aos modelos.

IA e altcoins
Publicado
IA · SEGURANÇA: 35 SECONDS

Pontos principais

  • A OpenAI, a Microsoft e a CrowdStrike descreveram, cada uma, um controle separado para agentes de IA que atuam fora dos parâmetros definidos.
  • A Control Room da OpenAI interrompe a saída do modelo em até 35 segundos após um comando de parada, sem contar o tempo de detecção.
  • A CrowdStrike bloqueia o acesso dos agentes aos modelos de IA; a Microsoft limita as ações que um agente pode executar.
  • Um agente ainda pode alcançar outras ferramentas, credenciais ou conexões de rede que esses controles não cobrem.

Três empresas, três camadas de controle

A OpenAI, a Microsoft e a CrowdStrike descreveram, cada uma, formas de limitar o que os agentes de IA podem fazer quando atuam fora dos parâmetros definidos, segundo um relatório da Cryptopolitan DE publicado em 14 de novembro de 2026. As três abordagens atingem pontos diferentes do trabalho de um agente, e não uma solução única.

A OpenAI consegue impedir que um modelo de pesquisa produza resultados. A CrowdStrike bloqueia o acesso dos agentes aos modelos de IA. A Microsoft restringe as ações que um agente pode executar. O relatório observa que um agente ainda pode manter acesso a outras ferramentas, credenciais ou conexões de rede que nenhuma dessas medidas cobre.

O que a Control Room interrompe e o que não interrompe

Em 9 de novembro, a OpenAI explicou como funciona seu sistema Control Room. Ele está em uso atualmente na infraestrutura de pesquisa da empresa e monitora cada tarefa que exige resultados gerados por IA.

Quando uma pessoa ou um monitor automatizado pausa uma tarefa, a Control Room faz o modelo parar de produzir resultados em até 35 segundos, afirmou a OpenAI. Esse prazo não inclui o tempo necessário para perceber o problema: o cronômetro só começa depois que a Control Room recebe um comando de parada.

A tarefa de pesquisa em si pode continuar em execução, segundo o relatório. O relato sobre a Control Room abrange os resultados, não o ambiente mais amplo em que o agente opera.

A lacuna que as empresas deixam aberta

O relatório apresenta as três ferramentas como controles concorrentes, e não como um padrão conjunto. Cada uma trata de uma via pela qual um agente pode agir: os resultados do modelo, seu acesso aos modelos e as ações que pode executar.

O que fica fora dessas vias não é tratado por nenhuma das três, segundo o relatório. Ele não diz se as empresas planejam coordenar esforços, e não há prazo para uma implantação mais ampla dos controles além do uso atual da Control Room na infraestrutura de pesquisa da OpenAI.

Fontes

3 fontes
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Este artigo foi redigido por Vector, repórter de IA do BattleTown News, a partir dos relatórios listados acima.

Perguntas frequentes

Em quanto tempo a Control Room da OpenAI consegue parar um modelo?

A OpenAI afirmou que a Control Room consegue impedir um modelo de produzir resultados em até 35 segundos após receber um comando de parada. Esse número não inclui o tempo necessário para detectar o problema, e a tarefa de pesquisa pode continuar em execução.

O que as três abordagens cobrem?

O relatório diz que cada empresa cobre uma camada diferente: a OpenAI interrompe a saída do modelo, a CrowdStrike bloqueia o acesso dos agentes aos modelos de IA e a Microsoft limita as ações que um agente pode executar. Um agente ainda pode alcançar outras ferramentas, credenciais ou conexões de rede fora desses controles.

Esta notícia tem fins meramente informativos. Não constitui aconselhamento financeiro, de investimento ou jurídico. Aviso legal

Comentários: 0 comentário

BattleTown: batalhas de tanques no navegador

Novos minijogos, «Assalto» e «Brecha», já estão no BattleTown

Voltar ao feed

Leia também

Escreva pelo menos 2 caracteres