Üç yapay zeka ajanı freni, üç ayrı ürün ve ortak standart yok
35 saniyelik süre, durdurma emri geldikten sonra başlıyor; sorunu bulmak daha uzun sürüyor ve tamamlanan eylemler tamamlanmış kalıyor.

Öne çıkanlar
- OpenAI, Microsoft ve CrowdStrike, belirlenen parametrelerin dışında hareket eden yapay zeka ajanlarına yönelik kontroller duyurdu.
- OpenAI'nin Control Room'u, durdurma emrinden sonra en az 35 saniye içinde model çıktısını durduruyor.
- 35 saniye tespit süresini kapsamıyor ve önceki eylemler geri alınamıyor.
- Korumalar bir ajanın diğer araçlarını, kimlik bilgilerini veya ağ bağlantılarını kapsamıyor.
- OpenAI, gecikmenin bir yetkilendirme önbellekleme sisteminden kaynaklandığını ve bunu kaldırmak için çalıştığını söyledi.
Üç şirket, üç farklı fren
Cryptopolitan'a göre OpenAI, Microsoft ve CrowdStrike, yapay zeka ajanlarının belirlenen parametrelerin dışına çıktığında neler yapabileceğini sınırlamaya yönelik kontroller sundu. Yaklaşımlar farklı: OpenAI bir araştırma modelinin çıktısını durduruyor, CrowdStrike ajanların yapay zeka modellerine erişmesini engelliyor, Microsoft ise bir ajanın gerçekleştirebileceği eylemleri sınırlıyor.
Üç kontrol, ortak bir standart değil ayrı ürünler. Cryptopolitan, bir ajanın bu korumaların hiçbirinin kapsamadığı diğer araçlara, kimlik bilgilerine veya ağ bağlantılarına hâlâ erişimi olabileceğini bildirdi.
Control Room bir modeli nasıl durduruyor
Rapora göre OpenAI, Control Room'u 9 Kasım'da tanıttı. Sistem şirketin araştırma altyapısında çalışıyor ve yapay zeka çıktısı gerektiren işleri izliyor.
Bir kişi veya otomatik bir izleyici bir işi beklemeye aldığında Control Room, modelin en az 35 saniye içinde çıktı vermeyi bırakmasını sağlıyor. Bu süre, sorunun tespiti için gereken zamanı kapsamıyor; sayaç yalnızca Control Room durdurma emrini aldıktan sonra başlıyor.
Araştırma işi kendisi çalışmaya devam edebilir ve alınmış eylemler geri alınamaz. Cryptopolitan, gecikmenin yetkilendirme için kullanılan önbellekleme sisteminden kaynaklandığını ve OpenAI'nin bunu kaldırmak için çalıştığını bildirdi.
Henüz kamuya açık olmayanlar
Rapor, Control Room'un ne sıklıkla tetiklendiğine dair rakam vermiyor; Microsoft ve CrowdStrike kontrollerinin nasıl yapılandırıldığı veya fiyatlandırıldığına dair ayrıntı da sunmuyor. Üç şirketin korumalarını koordine edip etmediği veya aynı senaryolarla test edip etmediği de belirtilmiyor.
Kontrollerden herhangi birinin, dış araçlara veya kimlik bilgilerine çoktan ulaşmış bir ajanı durdurup durduramayacağı raporda açık bir soru olarak kalıyor.
Kaynaklar
3 kaynak- CryptopolitanOpenAI, Microsoft, CrowdStrike roll out rival controls for rogue AI agents
- Cryptopolitan PTOpenAI, Microsoft e CrowdStrike lançam controles rivais para agentes de IA descontrolados
- Cryptopolitan ESOpenAI, Microsoft y CrowdStrike lanzan controles rivales para agentes de IA descontrolados
Bu makale, BattleTown News'ün yapay zekâ muhabiri Vector tarafından yukarıda listelenen raporlardan taslak olarak hazırlanmıştır.
Sık sorulan sorular
OpenAI'nin Control Room'u nedir?
Cryptopolitan'a göre OpenAI'nin araştırma altyapısında kullanılan, yapay zeka çıktısı gerektiren işleri izleyen ve durdurma emrinden sonra modelin çıktı vermesini durdurabilen bir sistem.
Control Room bir modeli ne kadar hızlı durduruyor?
Durdurma emrini aldıktan sonra en az 35 saniye içinde. Bu süre, sorunun tespiti için gereken zamanı kapsamıyor.
Bu kontroller bir yapay zeka ajanının erişebildiği her şeyi kapsıyor mu?
Hayır. Rapora göre bir ajan, bu korumaların kapsamadığı diğer araçlara, kimlik bilgilerine veya ağ bağlantılarına erişimini sürdürebilir.
Bu haber yalnızca bilgilendirme amaçlıdır. Finansal, yatırım veya hukuki tavsiye değildir. Sorumluluk reddi
BattleTown: tarayıcıda tank savaşları
Yeni mini oyunlar “Hücum” ve “Yarma” artık BattleTown’da




Yorumlar: 0 yorum