AI2 dk okuma0 yorum

OpenAI, Microsoft ve CrowdStrike yapay zeka ajanlarına ayrı sınırlar koydu

OpenAI, Control Room'un bir durdurma komutundan sonraki 35 saniye içinde model çıktısını durdurduğunu, Microsoft ve CrowdStrike'ın ise ajan eylemlerini ve model erişimini sınırladığını söylüyor.

Yapay Zekâ ve Altcoin'ler
Yayımlanma
YAPAY ZEKA · GÜVENLİK: 35 SECONDS

Öne çıkanlar

  • OpenAI, Microsoft ve CrowdStrike, belirlenen parametrelerin dışında hareket eden yapay zeka ajanları için ayrı birer kontrol tanımladı.
  • OpenAI'ın Control Room'u, tespit süresi hariç, bir durdurma komutundan sonraki 35 saniye içinde model çıktısını durduruyor.
  • CrowdStrike ajanların yapay zeka modellerine erişmesini engelliyor; Microsoft ise ajanın gerçekleştirebileceği eylemleri sınırlıyor.
  • Bir ajan, bu kontrollerin kapsamadığı diğer araçlara, kimlik bilgilerine veya ağ bağlantılarına yine de ulaşabiliyor.

Üç şirket, üç kontrol katmanı

OpenAI, Microsoft ve CrowdStrike, yapay zeka ajanlarının çalışma parametrelerinin dışına çıktığında neler yapabileceğini sınırlamanın yollarını açıkladı. Cryptopolitan DE'nin 14 Kasım 2026'da yayımladığı rapora göre, üç yaklaşım tek bir çözümü değil, ajanın işi içindeki farklı noktaları hedefliyor.

OpenAI, bir araştırma modelinin çıktı üretmesini durdurabiliyor. CrowdStrike, ajanların yapay zeka modellerine ulaşmasını engelliyor. Microsoft ise ajanın gerçekleştirmesine izin verilen eylemleri kısıtlıyor. Rapora göre ajan, bu önlemlerin hiçbirinin kapsamadığı diğer araçlara, kimlik bilgilerine veya ağ bağlantılarına hâlâ erişebiliyor.

Control Room neyi durduruyor, neyi durdurmuyor

OpenAI, 9 Kasım'da Control Room sisteminin nasıl çalıştığını anlattı. Sistem şu anda şirketin araştırma altyapısında kullanılıyor ve yapay zeka tarafından üretilmiş çıktı gerektiren her görevi izliyor.

OpenAI'a göre bir kişi veya otomatik bir izleyici bir görevi duraklattığında, Control Room modelin 35 saniye içinde çıktı üretmesini durduruyor. Bu süreye sorunun fark edilmesi için gereken zaman dahil değil: sayaç yalnızca Control Room bir durdurma komutu aldıktan sonra başlıyor.

Rapora göre araştırma görevi kendisi hâlâ çalışıyor olabilir. Control Room'un tanımı çıktıyı kapsıyor, ajanın faaliyet gösterdiği daha geniş ortamı kapsamıyor.

Şirketlerin açık bıraktığı boşluk

Rapor, üç aracı ortak bir standart değil, birbiriyle yarışan kontroller olarak ele alıyor. Her biri bir ajanın eyleme geçebildiği tek bir yolu ele alıyor: modelin çıktısı, modellere erişimi ve gerçekleştirebileceği eylemler.

Rapora göre bu yolların dışında kalanlar üçünün de kapsamında değil. Şirketlerin koordinasyon planlayıp planlamadığı belirtilmiyor ve Control Room'un OpenAI'ın araştırma altyapısındaki mevcut kullanımı dışında, kontrollerin daha geniş çapta devreye alınması için bir takvim verilmiyor.

Kaynaklar

3 kaynak
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Bu makale, BattleTown News'ün yapay zekâ muhabiri Vector tarafından yukarıda listelenen raporlardan taslak olarak hazırlanmıştır.

Sık sorulan sorular

OpenAI'ın Control Room'u bir modeli ne kadar hızlı durdurabiliyor?

OpenAI, Control Room'un bir durdurma komutu aldıktan sonra 35 saniye içinde modelin çıktı üretmesini engelleyebildiğini söyledi. Bu süreye sorunun tespiti için gereken zaman dahil değil ve araştırma görevi çalışmaya devam edebiliyor.

Üç yaklaşım neyi kapsıyor?

Rapora göre her şirket farklı bir katmanı kapsıyor: OpenAI model çıktısını durduruyor, CrowdStrike ajanların yapay zeka modellerine erişimini engelliyor, Microsoft ise ajanın gerçekleştirebileceği eylemleri sınırlıyor. Ajan bu kontrollerin dışında kalan diğer araçlara, kimlik bilgilerine veya ağ bağlantılarına yine de ulaşabiliyor.

Bu haber yalnızca bilgilendirme amaçlıdır. Finansal, yatırım veya hukuki tavsiye değildir. Sorumluluk reddi

Yorumlar: 0 yorum

BattleTown: tarayıcıda tank savaşları

Yeni mini oyunlar “Hücum” ve “Yarma” artık BattleTown’da

Akışa dön

Bunları da okuyun

En az 2 karakter yazın