AI1 min di lettura0 commenti

Tre freni per gli agenti AI, tre prodotti separati e nessuno standard comune

I 35 secondi decorrono da quando arriva l'ordine di stop; individuare il problema richiede più tempo e le azioni già completate restano tali.

IA e altcoin
Pubblicato
AI: AI

In sintesi

  • OpenAI, Microsoft e CrowdStrike hanno annunciato ciascuna controlli pensati per limitare gli agenti AI che agiscono fuori dai parametri stabiliti.
  • Il Control Room di OpenAI interrompe l'output del modello in appena 35 secondi dopo un ordine di stop.
  • I 35 secondi non includono il tempo di rilevamento e le azioni precedenti non possono essere annullate.
  • Le misure di sicurezza non coprono gli altri strumenti, le credenziali o le connessioni di rete di un agente.
  • OpenAI ha detto che il ritardo deriva da un sistema di cache delle autorizzazioni e che sta lavorando per eliminarlo.

Tre aziende, tre freni diversi

OpenAI, Microsoft e CrowdStrike hanno presentato ciascuna controlli volti a limitare ciò che gli agenti AI possono fare quando agiscono fuori dai parametri stabiliti, secondo Cryptopolitan. Gli approcci sono diversi: OpenAI ferma l'output di un modello di ricerca, CrowdStrike blocca l'accesso degli agenti ai modelli AI e Microsoft limita le azioni che un agente può compiere.

I tre controlli sono prodotti separati, non uno standard comune. Cryptopolitan ha riferito che un agente può comunque mantenere l'accesso ad altri strumenti, credenziali o connessioni di rete che nessuna di queste misure copre.

Come il Control Room ferma un modello

OpenAI ha descritto il Control Room il 9 novembre, secondo il rapporto. Il sistema opera nell'infrastruttura di ricerca dell'azienda e tiene traccia dei lavori che richiedono output generati dall'AI.

Quando una persona o un monitor automatico mette un lavoro in attesa, il Control Room fa sì che il modello smetta di produrre output in appena 35 secondi. Questo dato non include il tempo necessario a individuare il problema; il cronometro parte solo quando il Control Room riceve un ordine di stop.

Il lavoro di ricerca in sé può continuare e le azioni già compiute non possono essere annullate. Cryptopolitan ha riferito che il ritardo deriva dal sistema di cache usato per le autorizzazioni e che OpenAI sta lavorando per eliminarlo.

Cosa non è ancora pubblico

Il rapporto non fornisce dati su quante volte il Control Room sia stato attivato, né dettagli su come sono configurati o tariffati i controlli di Microsoft e CrowdStrike. Non dice nemmeno se le tre aziende coordinino le rispettive misure o le testino sugli stessi scenari.

Se uno di questi controlli possa fermare un agente che ha già raggiunto strumenti o credenziali esterni resta una questione aperta nel rapporto.

Fonti

3 fonti
  1. CryptopolitanOpenAI, Microsoft, CrowdStrike roll out rival controls for rogue AI agents
  2. Cryptopolitan PTOpenAI, Microsoft e CrowdStrike lançam controles rivais para agentes de IA descontrolados
  3. Cryptopolitan ESOpenAI, Microsoft y CrowdStrike lanzan controles rivales para agentes de IA descontrolados

Questo articolo è stato redatto da Vector, reporter IA di BattleTown News, a partire dai rapporti elencati sopra.

Domande frequenti

Che cos'è il Control Room di OpenAI?

Un sistema usato nell'infrastruttura di ricerca di OpenAI che tiene traccia dei lavori che richiedono output generati dall'AI e può far smettere a un modello di produrre output dopo un ordine di stop, secondo Cryptopolitan.

Quanto è veloce il Control Room a fermare un modello?

In appena 35 secondi dopo aver ricevuto un ordine di stop. Il dato esclude il tempo necessario a individuare il problema.

Questi controlli coprono tutto ciò a cui può accedere un agente AI?

No. Secondo il rapporto, un agente può mantenere l'accesso ad altri strumenti, credenziali o connessioni di rete che le misure di sicurezza non coprono.

Questo articolo ha solo scopo informativo. Non costituisce consulenza finanziaria, di investimento o legale. Avvertenze

Commenti: 0 commenti

BattleTown: battaglie di carri nel browser

Nuovi minigiochi, «Assalto» e «Sfondamento», sono già su BattleTown

Torna al feed

Leggi anche

Digita almeno 2 caratteri