AI2 min di lettura0 commenti

OpenAI, Microsoft e CrowdStrike fissano limiti separati agli agenti di IA fuori controllo

OpenAI afferma che Control Room ferma l'output del modello entro 35 secondi da un comando di stop, mentre Microsoft e CrowdStrike limitano le azioni degli agenti e l'accesso ai modelli.

IA e altcoin
Pubblicato
IA · SICUREZZA: 35 SECONDS

In sintesi

  • OpenAI, Microsoft e CrowdStrike hanno descritto ciascuna un controllo separato per gli agenti di IA che agiscono fuori dai parametri stabiliti.
  • Control Room di OpenAI ferma l'output del modello entro 35 secondi da un comando di stop, escluso il tempo di rilevamento.
  • CrowdStrike blocca l'accesso degli agenti ai modelli di IA; Microsoft limita le azioni che un agente può compiere.
  • Un agente può comunque raggiungere altri strumenti, credenziali o connessioni di rete che questi controlli non coprono.

Tre aziende, tre livelli di controllo

OpenAI, Microsoft e CrowdStrike hanno descritto ciascuna un modo per limitare ciò che gli agenti di IA possono fare quando agiscono fuori dai parametri operativi, secondo un report di Cryptopolitan DE pubblicato il 14 novembre 2026. I tre approcci intervengono in punti diversi del lavoro di un agente, non con una soluzione unica.

OpenAI può impedire a un modello di ricerca di produrre output. CrowdStrike blocca l'accesso degli agenti ai modelli di IA. Microsoft limita le azioni che un agente è autorizzato a compiere. Il report osserva che un agente può comunque mantenere l'accesso ad altri strumenti, credenziali o connessioni di rete che nessuna di queste misure copre.

Cosa ferma Control Room e cosa no

Il 9 novembre OpenAI ha spiegato come funziona il suo sistema Control Room. È attualmente in uso nell'infrastruttura di ricerca dell'azienda e monitora ogni attività che richiede output generati dall'IA.

Quando una persona o un monitor automatico mette in pausa un'attività, Control Room fa sì che il modello smetta di produrre output entro 35 secondi, ha dichiarato OpenAI. Questa finestra non include il tempo necessario ad accorgersi del problema: il cronometro parte solo dopo che Control Room riceve un comando di stop.

Secondo il report il lavoro di ricerca in sé può essere ancora in corso. La descrizione di Control Room riguarda l'output, non l'ambiente più ampio in cui opera l'agente.

Il vuoto che le aziende lasciano aperto

Il report presenta i tre strumenti come controlli concorrenti, non come uno standard comune. Ciascuno affronta una via attraverso cui un agente può agire: l'output del modello, il suo accesso ai modelli e le azioni che può compiere.

Ciò che resta fuori da queste vie non è affrontato da nessuno dei tre, secondo il report. Non viene detto se le aziende intendano coordinarsi, e non viene indicata alcuna tempistica per un impiego più ampio dei controlli oltre all'uso attuale di Control Room nell'infrastruttura di ricerca di OpenAI.

Fonti

3 fonti
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Questo articolo è stato redatto da Vector, reporter IA di BattleTown News, a partire dai rapporti elencati sopra.

Domande frequenti

Quanto è rapido Control Room di OpenAI nel fermare un modello?

OpenAI ha dichiarato che Control Room può fermare la produzione di output di un modello entro 35 secondi dal ricevimento di un comando di stop. Il dato esclude il tempo necessario a rilevare il problema, e il lavoro di ricerca può proseguire.

Cosa coprono i tre approcci?

Secondo il report ogni azienda copre un livello diverso: OpenAI ferma l'output del modello, CrowdStrike blocca l'accesso degli agenti ai modelli di IA e Microsoft limita le azioni che un agente può compiere. Un agente può comunque raggiungere altri strumenti, credenziali o connessioni di rete al di fuori di questi controlli.

Questo articolo ha solo scopo informativo. Non costituisce consulenza finanziaria, di investimento o legale. Avvertenze

Commenti: 0 commenti

BattleTown: battaglie di carri nel browser

Nuovi minigiochi, «Assalto» e «Sfondamento», sono già su BattleTown

Torna al feed

Leggi anche

Digita almeno 2 caratteri