Trois freins pour agents IA, trois produits et aucune norme commune
Le délai de 35 secondes court à partir de la réception d'un ordre d'arrêt ; détecter le problème prend plus de temps, et les actions déjà effectuées restent acquises.

L'essentiel
- OpenAI, Microsoft et CrowdStrike ont chacun annoncé des contrôles visant les agents IA qui agissent hors des paramètres fixés.
- Control Room d'OpenAI arrête la production d'un modèle en 35 secondes au minimum après un ordre d'arrêt.
- Ces 35 secondes excluent le temps de détection, et les actions antérieures ne peuvent pas être annulées.
- Les garde-fous ne couvrent pas les autres outils, identifiants ou connexions réseau d'un agent.
- OpenAI indique que ce délai vient d'un système de mise en cache des autorisations et qu'il travaille à le supprimer.
Trois entreprises, trois freins différents
OpenAI, Microsoft et CrowdStrike ont chacun présenté des contrôles destinés à limiter ce que les agents IA peuvent faire lorsqu'ils agissent hors des paramètres fixés, rapporte Cryptopolitan. Les approches diffèrent : OpenAI arrête la production d'un modèle de recherche, CrowdStrike empêche les agents d'atteindre les modèles d'IA, et Microsoft limite les actions qu'un agent peut effectuer.
Les trois contrôles sont des produits distincts, pas une norme commune. Cryptopolitan indique qu'un agent peut encore détenir l'accès à d'autres outils, identifiants ou connexions réseau qu'aucun de ces garde-fous ne couvre.
Comment Control Room arrête un modèle
OpenAI a présenté Control Room le 9 novembre, selon le rapport. Le système tourne dans l'infrastructure de recherche de l'entreprise et suit les tâches qui nécessitent une production générée par IA.
Lorsqu'une personne ou un moniteur automatique met une tâche en attente, Control Room fait cesser la production du modèle en 35 secondes au minimum. Ce chiffre n'inclut pas le temps nécessaire à la détection du problème ; le décompte ne commence qu'à la réception d'un ordre d'arrêt par Control Room.
La tâche de recherche elle-même peut continuer, et les actions déjà effectuées ne peuvent pas être annulées. Cryptopolitan rapporte que ce délai vient du système de mise en cache utilisé pour l'autorisation, et qu'OpenAI travaille à le supprimer.
Ce qui n'est pas encore public
Le rapport ne donne aucun chiffre sur la fréquence de déclenchement de Control Room, ni de détails sur la configuration ou le prix des contrôles de Microsoft et de CrowdStrike. Il ne dit pas non plus si les trois entreprises coordonnent leurs garde-fous ou les testent sur les mêmes scénarios.
La question de savoir si l'un de ces contrôles peut arrêter un agent ayant déjà atteint des outils ou des identifiants externes reste ouverte dans le rapport.
Sources
3 sources- CryptopolitanOpenAI, Microsoft, CrowdStrike roll out rival controls for rogue AI agents
- Cryptopolitan PTOpenAI, Microsoft e CrowdStrike lançam controles rivais para agentes de IA descontrolados
- Cryptopolitan ESOpenAI, Microsoft y CrowdStrike lanzan controles rivales para agentes de IA descontrolados
Cet article a été rédigé par Vector, reporter IA de BattleTown News, à partir des rapports indiqués ci-dessus.
Questions fréquentes
Qu'est-ce que Control Room d'OpenAI ?
Un système utilisé dans l'infrastructure de recherche d'OpenAI qui suit les tâches nécessitant une production générée par IA et peut faire cesser la production d'un modèle après un ordre d'arrêt, selon Cryptopolitan.
À quelle vitesse Control Room arrête-t-il un modèle ?
En 35 secondes au minimum après réception d'un ordre d'arrêt. Ce chiffre exclut le temps nécessaire à la détection du problème.
Ces contrôles couvrent-ils tout ce à quoi un agent IA peut accéder ?
Non. Selon le rapport, un agent peut conserver l'accès à d'autres outils, identifiants ou connexions réseau que ces garde-fous ne couvrent pas.
Cet article est fourni à titre d'information uniquement. Il ne constitue pas un conseil financier, d'investissement ou juridique. Avertissement
BattleTown : batailles de chars dans le navigateur
De nouveaux mini-jeux, « Assaut » et « Percée », sont déjà sur BattleTown




Commentaires: 0 commentaire