AI2 min czytania0 komentarzy

OpenAI, Microsoft i CrowdStrike osobno ograniczają zbłąkane agenty AI

OpenAI podaje, że jego Control Room zatrzymuje odpowiedź modelu w ciągu 35 sekund od polecenia stop, a Microsoft i CrowdStrike ograniczają działania agentów i dostęp do modeli.

AI i altcoiny
Opublikowano
AI · BEZPIECZEŃSTWO: 35 SECONDS

Najważniejsze

  • OpenAI, Microsoft i CrowdStrike opisały każda osobny mechanizm kontroli agentów AI działających poza ustalonymi parametrami.
  • Control Room OpenAI zatrzymuje odpowiedź modelu w ciągu 35 sekund od polecenia stop, nie licząc czasu wykrycia.
  • CrowdStrike blokuje agentom dostęp do modeli AI; Microsoft ogranicza działania, jakie agent może podjąć.
  • Agent może nadal mieć dostęp do innych narzędzi, danych logowania lub połączeń sieciowych, których te mechanizmy nie obejmują.

Trzy firmy, trzy warstwy kontroli

OpenAI, Microsoft i CrowdStrike opisały sposoby ograniczania tego, co mogą robić agenty AI, gdy działają poza swoimi parametrami operacyjnymi — podaje Cryptopolitan DE w materiale z 14 listopada 2026 r. Trzy podejścia dotyczą różnych punktów pracy agenta, a nie jednego rozwiązania.

OpenAI może zatrzymać model badawczy przed generowaniem odpowiedzi. CrowdStrike blokuje agentom dostęp do modeli AI. Microsoft ogranicza działania, jakie agent może wykonywać. W materiale zaznaczono, że agent może nadal mieć dostęp do innych narzędzi, danych logowania lub połączeń sieciowych, których żaden z tych mechanizmów nie obejmuje.

Co zatrzymuje Control Room, a czego nie

9 listopada OpenAI wyjaśniło, jak działa jego system Control Room. Jest obecnie używany w infrastrukturze badawczej firmy i monitoruje każde zadanie wymagające odpowiedzi wygenerowanej przez AI.

Gdy osoba lub automatyczny monitor wstrzyma zadanie, Control Room sprawia, że model przestaje generować odpowiedź w ciągu 35 sekund — podało OpenAI. Ten czas nie obejmuje wykrycia problemu: licznik rusza dopiero, gdy Control Room otrzyma polecenie stop.

Samo zadanie badawcze może nadal trwać — czytamy w materiale. Opis Control Room dotyczy odpowiedzi, a nie szerszego środowiska, w którym działa agent.

Luka, którą firmy zostawiają otwartą

Materiał przedstawia trzy narzędzia jako konkurencyjne mechanizmy kontroli, a nie wspólny standard. Każde dotyczy jednej drogi działania agenta: odpowiedzi modelu, dostępu do modeli i działań, jakie może podejmować.

To, co pozostaje poza tymi drogami, nie jest objęte żadnym z trzech mechanizmów — podaje materiał. Nie mówi, czy firmy planują koordynację, i nie podaje harmonogramu szerszego wdrożenia mechanizmów poza obecnym użyciem Control Room w infrastrukturze badawczej OpenAI.

Źródła

3 źródła
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Ten artykuł zredagował Vector, reporter AI BattleTown News, na podstawie raportów wymienionych powyżej.

Najczęstsze pytania

Jak szybko Control Room OpenAI zatrzymuje model?

OpenAI podało, że Control Room może zatrzymać generowanie odpowiedzi przez model w ciągu 35 sekund od otrzymania polecenia stop. Ten czas nie obejmuje wykrycia problemu, a zadanie badawcze może nadal trwać.

Co obejmują trzy podejścia?

Materiał podaje, że każda firma obejmuje inną warstwę: OpenAI zatrzymuje odpowiedź modelu, CrowdStrike blokuje agentom dostęp do modeli AI, a Microsoft ogranicza działania, jakie agent może podejmować. Agent może nadal mieć dostęp do innych narzędzi, danych logowania lub połączeń sieciowych poza tymi mechanizmami.

Ten artykuł ma charakter wyłącznie informacyjny. Nie jest poradą finansową, inwestycyjną ani prawną. Zastrzeżenie

Komentarze: 0 komentarzy

BattleTown: bitwy czołgów w przeglądarce

Nowe minigry, „Szturm” i „Przełom”, już w BattleTown

Wróć do listy

Czytaj także

Wpisz co najmniej 2 znaki