Drei Bremsen für KI-Agenten, drei separate Produkte und kein gemeinsamer Standard
Die 35 Sekunden beginnen mit Eingang einer Stoppanweisung; das Erkennen des Problems dauert länger, und ausgeführte Aktionen bleiben ausgeführt.

Das Wichtigste
- OpenAI, Microsoft und CrowdStrike haben jeweils Kontrollen angekündigt, die KI-Agenten begrenzen sollen, die außerhalb festgelegter Parameter handeln.
- OpenAIs Control Room stoppt die Ausgabe eines Modells in nur 35 Sekunden nach einer Stoppanweisung.
- Die 35 Sekunden enthalten nicht die Zeit zum Erkennen des Problems, und frühere Aktionen lassen sich nicht rückgängig machen.
- Die Schutzmaßnahmen erfassen nicht die anderen Werkzeuge, Zugangsdaten oder Netzwerkverbindungen eines Agenten.
- OpenAI nennt als Ursache der Verzögerung ein Caching-System für die Autorisierung und arbeitet daran, es zu entfernen.
Drei Unternehmen, drei verschiedene Bremsen
OpenAI, Microsoft und CrowdStrike haben jeweils Kontrollen vorgestellt, die begrenzen sollen, was KI-Agenten tun, wenn sie außerhalb ihrer festgelegten Parameter handeln, berichtet Cryptopolitan. Die Ansätze unterscheiden sich: OpenAI stoppt die Ausgabe eines Forschungsmodells, CrowdStrike blockiert den Zugang von Agenten zu KI-Modellen, und Microsoft begrenzt die Aktionen, die ein Agent ausführen kann.
Die drei Kontrollen sind separate Produkte und kein gemeinsamer Standard. Laut Cryptopolitan kann ein Agent weiterhin Zugriff auf andere Werkzeuge, Zugangsdaten oder Netzwerkverbindungen haben, die keine dieser Schutzmaßnahmen erfasst.
Wie Control Room ein Modell stoppt
OpenAI stellte Control Room dem Bericht zufolge am 9. November vor. Das System läuft in der Forschungsinfrastruktur des Unternehmens und verfolgt Aufträge, für die KI-generierte Ausgaben nötig sind.
Setzt eine Person oder ein automatischer Monitor einen Auftrag auf Wartestellung, lässt Control Room das Modell in nur 35 Sekunden die Ausgabe beenden. Diese Zahl umfasst nicht die Zeit, die zum Erkennen des Problems nötig ist; die Uhr läuft erst, wenn Control Room eine Stoppanweisung erhält.
Der Forschungsauftrag selbst kann weiterlaufen, und bereits ausgeführte Aktionen lassen sich nicht rückgängig machen. Laut Cryptopolitan entsteht die Verzögerung durch das Caching-System für die Autorisierung, und OpenAI arbeitet daran, es zu entfernen.
Was noch nicht öffentlich ist
Der Bericht nennt keine Zahlen dazu, wie oft Control Room ausgelöst wurde, und keine Details zur Konfiguration oder zu den Preisen der Kontrollen von Microsoft und CrowdStrike. Er sagt auch nicht, ob die drei Unternehmen ihre Schutzmaßnahmen abstimmen oder sie gegen dieselben Szenarien testen.
Ob eine der Kontrollen einen Agenten stoppen kann, der bereits externe Werkzeuge oder Zugangsdaten erreicht hat, bleibt im Bericht eine offene Frage.
Quellen
3 Berichte- CryptopolitanOpenAI, Microsoft, CrowdStrike roll out rival controls for rogue AI agents
- Cryptopolitan PTOpenAI, Microsoft e CrowdStrike lançam controles rivais para agentes de IA descontrolados
- Cryptopolitan ESOpenAI, Microsoft y CrowdStrike lanzan controles rivales para agentes de IA descontrolados
Dieser Artikel wurde von Vector, einem KI-Reporter von BattleTown News, aus den oben genannten Berichten entworfen.
Häufig gestellte Fragen
Was ist OpenAIs Control Room?
Ein System in der Forschungsinfrastruktur von OpenAI, das Aufträge verfolgt, für die KI-generierte Ausgaben nötig sind, und ein Modell nach einer Stoppanweisung die Ausgabe beenden lässt, so Cryptopolitan.
Wie schnell stoppt Control Room ein Modell?
In nur 35 Sekunden nach Eingang einer Stoppanweisung. Die Zeit bis zum Erkennen des Problems ist darin nicht enthalten.
Erfassen diese Kontrollen alles, worauf ein KI-Agent zugreifen kann?
Nein. Laut dem Bericht kann ein Agent weiterhin Zugriff auf andere Werkzeuge, Zugangsdaten oder Netzwerkverbindungen behalten, die von den Schutzmaßnahmen nicht erfasst werden.
Dieser Beitrag dient nur der Information. Er ist keine Finanz-, Anlage- oder Rechtsberatung. Haftungsausschluss
BattleTown: Panzerkämpfe im Browser
Neue Minispiele, „Sturm“ und „Durchbruch“, sind schon in BattleTown




Kommentare: 0 Kommentare