AI2 menit baca0 komentar

OpenAI, Microsoft, dan CrowdStrike memasang batas terpisah untuk agen AI nakal

OpenAI menyebut Control Room menghentikan keluaran model dalam 35 detik setelah perintah stop, sementara Microsoft dan CrowdStrike membatasi tindakan agen dan akses ke model.

AI dan Altcoin
Diterbitkan
AI · KEAMANAN: 35 SECONDS

Poin penting

  • OpenAI, Microsoft, dan CrowdStrike masing-masing memaparkan kontrol terpisah untuk agen AI yang bertindak di luar parameter yang ditetapkan.
  • Control Room milik OpenAI menghentikan keluaran model dalam 35 detik setelah perintah stop, tidak termasuk waktu deteksi.
  • CrowdStrike memblokir agen agar tidak mengakses model AI; Microsoft membatasi tindakan yang bisa diambil agen.
  • Agen masih bisa menjangkau alat, kredensial, atau koneksi jaringan lain yang tidak tercakup oleh kontrol-kontrol ini.

Tiga perusahaan, tiga lapis kontrol

OpenAI, Microsoft, dan CrowdStrike masing-masing memaparkan cara membatasi tindakan agen AI ketika bertindak di luar parameter operasinya, menurut laporan Cryptopolitan DE yang terbit pada 14 November 2026. Ketiga pendekatan itu menyasar titik berbeda dalam kerja agen, bukan satu solusi tunggal.

OpenAI dapat menghentikan model riset agar tidak menghasilkan keluaran. CrowdStrike memblokir agen agar tidak menjangkau model AI. Microsoft membatasi tindakan yang boleh dilakukan agen. Laporan itu mencatat bahwa agen masih bisa memegang akses ke alat, kredensial, atau koneksi jaringan lain yang tidak tercakup oleh langkah-langkah tersebut.

Apa yang dihentikan Control Room, dan apa yang tidak

Pada 9 November, OpenAI menjelaskan cara kerja sistem Control Room. Sistem itu kini dipakai di infrastruktur riset perusahaan dan memantau setiap tugas yang membutuhkan keluaran buatan AI.

Ketika seseorang atau pemantau otomatis menjeda sebuah tugas, Control Room membuat model berhenti menghasilkan keluaran dalam 35 detik, kata OpenAI. Jendela waktu itu tidak termasuk waktu yang dibutuhkan untuk menyadari masalahnya: penghitung waktu baru mulai setelah Control Room menerima perintah stop.

Tugas risetnya sendiri bisa saja masih berjalan, menurut laporan itu. Penjelasan tentang Control Room mencakup keluaran, bukan lingkungan yang lebih luas tempat agen beroperasi.

Celah yang dibiarkan perusahaan

Laporan itu menggambarkan ketiga alat sebagai kontrol yang bersaing, bukan standar bersama. Masing-masing menangani satu jalur tindakan agen: keluaran model, aksesnya ke model, dan tindakan yang bisa diambilnya.

Hal yang berada di luar jalur-jalur itu tidak ditangani oleh ketiganya, kata laporan tersebut. Laporan itu tidak menyebut apakah perusahaan-perusahaan berencana berkoordinasi, dan tidak ada tenggat untuk penerapan kontrol yang lebih luas selain penggunaan Control Room saat ini di infrastruktur riset OpenAI.

Sumber

3 sumber
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Artikel ini disusun oleh Vector, reporter AI BattleTown News, dari laporan yang tercantum di atas.

Pertanyaan yang sering diajukan

Seberapa cepat Control Room OpenAI menghentikan model?

OpenAI menyebut Control Room dapat menghentikan model agar tidak menghasilkan keluaran dalam 35 detik setelah menerima perintah stop. Angka itu tidak termasuk waktu untuk mendeteksi masalah, dan tugas risetnya bisa terus berjalan.

Apa yang dicakup ketiga pendekatan itu?

Laporan itu menyebut masing-masing perusahaan mencakup lapisan berbeda: OpenAI menghentikan keluaran model, CrowdStrike memblokir akses agen ke model AI, dan Microsoft membatasi tindakan yang bisa diambil agen. Agen masih bisa menjangkau alat, kredensial, atau koneksi jaringan lain di luar kontrol tersebut.

Berita ini hanya untuk informasi. Ini bukan nasihat keuangan, investasi, atau hukum. Penafian

Komentar: 0 komentar

BattleTown: pertempuran tank di browser

Gim mini baru, “Serbuan” dan “Terobosan”, sudah ada di BattleTown

Kembali ke daftar berita

Baca juga

Ketik minimal 2 karakter