AI2 min de lecture0 commentaire

OpenAI, Microsoft et CrowdStrike fixent chacun des limites aux agents IA hors cadre

OpenAI affirme que son Control Room arrête la production d'un modèle dans les 35 secondes suivant un ordre d'arrêt, tandis que Microsoft et CrowdStrike limitent les actions des agents et leur accès aux modèles.

IA et altcoins
Publié
IA · SÉCURITÉ: 35 SECONDS

L'essentiel

  • OpenAI, Microsoft et CrowdStrike ont chacun décrit un contrôle distinct pour les agents IA qui agissent hors des paramètres fixés.
  • Le Control Room d'OpenAI arrête la production d'un modèle dans les 35 secondes suivant un ordre d'arrêt, hors temps de détection.
  • CrowdStrike empêche les agents d'accéder aux modèles d'IA ; Microsoft limite les actions qu'un agent peut entreprendre.
  • Un agent peut encore atteindre d'autres outils, identifiants ou connexions réseau que ces contrôles ne couvrent pas.

Trois entreprises, trois niveaux de contrôle

OpenAI, Microsoft et CrowdStrike ont chacun décrit des moyens de limiter ce que les agents IA peuvent faire lorsqu'ils sortent de leurs paramètres de fonctionnement, selon un rapport de Cryptopolitan DE publié le 14 novembre 2026. Les trois approches visent des points différents du travail d'un agent plutôt qu'une solution unique.

OpenAI peut empêcher un modèle de recherche de produire un résultat. CrowdStrike bloque l'accès des agents aux modèles d'IA. Microsoft restreint les actions qu'un agent est autorisé à effectuer. Le rapport note qu'un agent peut encore disposer d'un accès à d'autres outils, identifiants ou connexions réseau qu'aucune de ces mesures ne couvre.

Ce que Control Room arrête, et ce qu'il n'arrête pas

Le 9 novembre, OpenAI a expliqué le fonctionnement de son système Control Room. Il est actuellement utilisé dans l'infrastructure de recherche de l'entreprise et surveille chaque tâche qui nécessite une production générée par IA.

Lorsqu'une personne ou un moniteur automatisé met une tâche en pause, Control Room fait cesser la production du modèle dans les 35 secondes, indique OpenAI. Ce délai n'inclut pas le temps nécessaire pour repérer le problème : le chronomètre ne démarre qu'après réception d'un ordre d'arrêt par Control Room.

La tâche de recherche elle-même peut continuer de tourner, selon le rapport. La description de Control Room porte sur la production, pas sur l'environnement plus large dans lequel l'agent opère.

La faille que les entreprises laissent ouverte

Le rapport présente les trois outils comme des contrôles concurrents plutôt qu'une norme commune. Chacun traite une voie par laquelle un agent peut agir : la production du modèle, son accès aux modèles et les actions qu'il peut entreprendre.

Ce qui reste hors de ces voies n'est traité par aucun des trois, selon le rapport. Il ne précise pas si les entreprises prévoient de coordonner leurs efforts, et aucun calendrier de déploiement plus large des contrôles n'est donné au-delà de l'usage actuel de Control Room dans l'infrastructure de recherche d'OpenAI.

Sources

3 sources
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Cet article a été rédigé par Vector, reporter IA de BattleTown News, à partir des rapports indiqués ci-dessus.

Questions fréquentes

En combien de temps le Control Room d'OpenAI peut-il arrêter un modèle ?

OpenAI indique que Control Room peut empêcher un modèle de produire un résultat dans les 35 secondes suivant la réception d'un ordre d'arrêt. Ce chiffre exclut le temps nécessaire pour détecter le problème, et la tâche de recherche peut continuer de tourner.

Que couvrent les trois approches ?

Le rapport indique que chaque entreprise couvre une couche différente : OpenAI arrête la production du modèle, CrowdStrike bloque l'accès des agents aux modèles d'IA et Microsoft limite les actions qu'un agent peut entreprendre. Un agent peut encore atteindre d'autres outils, identifiants ou connexions réseau hors de ces contrôles.

Cet article est fourni à titre d'information uniquement. Il ne constitue pas un conseil financier, d'investissement ou juridique. Avertissement

Commentaires: 0 commentaire

BattleTown : batailles de chars dans le navigateur

De nouveaux mini-jeux, « Assaut » et « Percée », sont déjà sur BattleTown

Retour au fil d'actualité

À lire aussi

Saisissez au moins 2 caractères