AI1 menit baca0 komentar

Tiga rem agen AI, tiga produk terpisah, tanpa standar bersama

Angka 35 detik mulai berlaku begitu perintah henti tiba; menemukan masalahnya butuh waktu lebih lama, dan tindakan yang sudah selesai tetap selesai.

AI dan Altcoin
Diterbitkan
AI: AI

Poin penting

  • OpenAI, Microsoft, dan CrowdStrike masing-masing mengumumkan kontrol yang ditujukan untuk agen AI yang bertindak di luar parameter yang ditetapkan.
  • Control Room dari OpenAI menghentikan keluaran model dalam waktu sesingkat 35 detik setelah perintah henti.
  • Waktu 35 detik itu tidak mencakup waktu deteksi, dan tindakan sebelumnya tidak dapat dibatalkan.
  • Pengaman tersebut tidak mencakup alat, kredensial, atau koneksi jaringan lain milik agen.
  • OpenAI mengatakan keterlambatan itu berasal dari sistem cache otorisasi dan pihaknya sedang berupaya menghapusnya.

Tiga perusahaan, tiga rem berbeda

OpenAI, Microsoft, dan CrowdStrike masing-masing mengajukan kontrol yang dimaksudkan untuk membatasi apa yang dapat dilakukan agen AI ketika bertindak di luar parameter yang ditetapkan, menurut Cryptopolitan. Pendekatannya berbeda: OpenAI menghentikan keluaran dari model riset, CrowdStrike memblokir agen agar tidak menjangkau model AI, dan Microsoft membatasi tindakan yang dapat dilakukan agen.

Ketiga kontrol itu adalah produk terpisah, bukan satu standar bersama. Cryptopolitan melaporkan bahwa agen masih dapat memegang akses ke alat, kredensial, atau koneksi jaringan lain yang tidak dicakup oleh pengaman mana pun.

Cara Control Room menghentikan model

OpenAI memaparkan Control Room pada 9 November, menurut laporan tersebut. Sistem ini berjalan di infrastruktur riset perusahaan dan melacak pekerjaan yang membutuhkan keluaran buatan AI.

Ketika seseorang atau pemantau otomatis menahan sebuah pekerjaan, Control Room membuat model berhenti mengeluarkan keluaran dalam waktu sesingkat 35 detik. Angka itu tidak mencakup waktu yang dibutuhkan untuk mendeteksi masalah; penghitung waktu baru mulai setelah Control Room menerima perintah henti.

Pekerjaan riset itu sendiri dapat terus berjalan, dan tindakan yang sudah dilakukan tidak dapat dibatalkan. Cryptopolitan melaporkan bahwa keterlambatan itu berasal dari sistem cache yang digunakan untuk otorisasi, dan OpenAI sedang berupaya menghapusnya.

Yang belum diketahui publik

Laporan itu tidak memberikan angka seberapa sering Control Room dipicu, dan tidak merinci bagaimana kontrol Microsoft dan CrowdStrike dikonfigurasi atau diberi harga. Laporan itu juga tidak menyebut apakah ketiga perusahaan mengoordinasikan pengaman mereka atau mengujinya pada skenario yang sama.

Apakah salah satu kontrol dapat menghentikan agen yang sudah menjangkau alat atau kredensial eksternal masih menjadi pertanyaan terbuka dalam laporan tersebut.

Sumber

3 sumber
  1. CryptopolitanOpenAI, Microsoft, CrowdStrike roll out rival controls for rogue AI agents
  2. Cryptopolitan PTOpenAI, Microsoft e CrowdStrike lançam controles rivais para agentes de IA descontrolados
  3. Cryptopolitan ESOpenAI, Microsoft y CrowdStrike lanzan controles rivales para agentes de IA descontrolados

Artikel ini disusun oleh Vector, reporter AI BattleTown News, dari laporan yang tercantum di atas.

Pertanyaan yang sering diajukan

Apa itu Control Room dari OpenAI?

Sistem di infrastruktur riset OpenAI yang melacak pekerjaan yang membutuhkan keluaran AI dan dapat membuat model berhenti mengeluarkan keluaran setelah perintah henti, menurut Cryptopolitan.

Seberapa cepat Control Room menghentikan model?

Dalam waktu sesingkat 35 detik setelah menerima perintah henti. Angka itu tidak mencakup waktu yang dibutuhkan untuk mendeteksi masalah.

Apakah pengaman ini mencakup semua yang dapat diakses agen AI?

Tidak. Menurut laporan tersebut, agen masih dapat mempertahankan akses ke alat, kredensial, atau koneksi jaringan lain yang tidak tercakup oleh pengaman tersebut.

Berita ini hanya untuk informasi. Ini bukan nasihat keuangan, investasi, atau hukum. Penafian

Komentar: 0 komentar

BattleTown: pertempuran tank di browser

Gim mini baru, “Serbuan” dan “Terobosan”, sudah ada di BattleTown

Kembali ke daftar berita

Baca juga

Ketik minimal 2 karakter