Trzy hamulce dla agentów AI, trzy osobne produkty i brak wspólnego standardu
Liczba 35 sekund zaczyna się odliczać po dotarciu polecenia zatrzymania; znalezienie problemu trwa dłużej, a wykonanych działań nie da się cofnąć.

Najważniejsze
- OpenAI, Microsoft i CrowdStrike zapowiedziały mechanizmy kontroli skierowane do agentów AI działających poza ustalonymi parametrami.
- Control Room OpenAI zatrzymuje wyniki modelu już po 35 sekundach od polecenia zatrzymania.
- Te 35 sekund nie obejmuje czasu wykrycia, a wcześniejszych działań nie da się cofnąć.
- Zabezpieczenia nie obejmują innych narzędzi, danych uwierzytelniających ani połączeń sieciowych agenta.
- OpenAI podało, że opóźnienie wynika z systemu buforowania autoryzacji i pracuje nad jego usunięciem.
Trzy firmy, trzy różne hamulce
OpenAI, Microsoft i CrowdStrike przedstawiły mechanizmy kontroli, które mają ograniczać działania agentów AI wychodzące poza ustalone parametry – podaje Cryptopolitan. Podejścia się różnią: OpenAI zatrzymuje wyniki modelu badawczego, CrowdStrike blokuje agentom dostęp do modeli AI, a Microsoft ogranicza działania, które agent może wykonać.
To trzy osobne produkty, a nie jeden wspólny standard. Cryptopolitan podaje, że agent może nadal mieć dostęp do innych narzędzi, danych uwierzytelniających lub połączeń sieciowych, których żadne z tych zabezpieczeń nie obejmuje.
Jak Control Room zatrzymuje model
OpenAI opisało Control Room 9 listopada – wynika z raportu. System działa w infrastrukturze badawczej firmy i śledzi zadania wymagające wyników generowanych przez AI.
Gdy osoba lub automatyczny monitor wstrzyma zadanie, Control Room sprawia, że model przestaje generować wyniki w ciągu co najmniej 35 sekund. Ten czas nie obejmuje wykrycia problemu; odliczanie zaczyna się dopiero, gdy Control Room otrzyma polecenie zatrzymania.
Samo zadanie badawcze może być kontynuowane, a podjętych już działań nie da się cofnąć. Cryptopolitan podaje, że opóźnienie wynika z systemu buforowania używanego do autoryzacji i że OpenAI pracuje nad jego usunięciem.
Co nie jest jeszcze publiczne
Raport nie podaje, jak często uruchamiano Control Room, ani szczegółów konfiguracji i cen mechanizmów Microsoftu i CrowdStrike. Nie mówi też, czy trzy firmy koordynują swoje zabezpieczenia lub testują je na tych samych scenariuszach.
Czy którykolwiek z mechanizmów kontroli może zatrzymać agenta, który dotarł już do zewnętrznych narzędzi lub danych uwierzytelniających, pozostaje w raporcie kwestią otwartą.
Źródła
3 źródła- CryptopolitanOpenAI, Microsoft, CrowdStrike roll out rival controls for rogue AI agents
- Cryptopolitan PTOpenAI, Microsoft e CrowdStrike lançam controles rivais para agentes de IA descontrolados
- Cryptopolitan ESOpenAI, Microsoft y CrowdStrike lanzan controles rivales para agentes de IA descontrolados
Ten artykuł zredagował Vector, reporter AI BattleTown News, na podstawie raportów wymienionych powyżej.
Najczęstsze pytania
Czym jest Control Room w OpenAI?
Jak podaje Cryptopolitan, to system używany w infrastrukturze badawczej OpenAI, który śledzi zadania wymagające wyników generowanych przez AI i może nakazać modelowi zaprzestanie generowania wyników po otrzymaniu polecenia zatrzymania.
Jak szybko Control Room zatrzymuje model?
Już po 35 sekundach od otrzymania polecenia zatrzymania. Ten czas nie obejmuje wykrycia problemu.
Czy te zabezpieczenia obejmują wszystko, do czego ma dostęp agent AI?
Nie. Według raportu agent może zachować dostęp do innych narzędzi, danych uwierzytelniających lub połączeń sieciowych, których zabezpieczenia nie obejmują.
Ten artykuł ma charakter wyłącznie informacyjny. Nie jest poradą finansową, inwestycyjną ani prawną. Zastrzeżenie
BattleTown: bitwy czołgów w przeglądarce
Nowe minigry, „Szturm” i „Przełom”, już w BattleTown




Komentarze: 0 komentarzy