OpenAI, Microsoft và CrowdStrike đặt giới hạn riêng cho tác nhân AI đi chệch hướng
OpenAI cho biết Control Room của họ dừng đầu ra của mô hình trong vòng 35 giây sau lệnh dừng, còn Microsoft và CrowdStrike giới hạn hành động của tác nhân và quyền truy cập mô hình.

Điểm chính
- OpenAI, Microsoft và CrowdStrike mỗi bên trình bày một biện pháp kiểm soát riêng cho tác nhân AI hành động ngoài tham số đã đặt.
- Control Room của OpenAI dừng đầu ra của mô hình trong vòng 35 giây sau lệnh dừng, không tính thời gian phát hiện.
- CrowdStrike chặn tác nhân truy cập các mô hình AI; Microsoft giới hạn những hành động tác nhân có thể thực hiện.
- Tác nhân vẫn có thể chạm tới các công cụ, thông tin đăng nhập hoặc kết nối mạng khác mà các biện pháp kiểm soát này không bao phủ.
Ba công ty, ba lớp kiểm soát
OpenAI, Microsoft và CrowdStrike đã trình bày riêng cách hạn chế những gì tác nhân AI có thể làm khi chúng hành động ngoài tham số vận hành, theo một bài báo của Cryptopolitan DE đăng ngày 14 tháng 11 năm 2026. Ba cách tiếp cận nhắm vào những điểm khác nhau trong quá trình làm việc của tác nhân chứ không phải một giải pháp duy nhất.
OpenAI có thể buộc một mô hình nghiên cứu ngừng tạo đầu ra. CrowdStrike chặn tác nhân tiếp cận các mô hình AI. Microsoft giới hạn những hành động tác nhân được phép thực hiện. Bài báo lưu ý rằng tác nhân vẫn có thể giữ quyền truy cập vào các công cụ, thông tin đăng nhập hoặc kết nối mạng khác mà không biện pháp nào trong số này bao phủ.
Control Room dừng được gì và không dừng được gì
Ngày 9 tháng 11, OpenAI giải thích cách hệ thống Control Room của mình hoạt động. Hệ thống này hiện được dùng trong hạ tầng nghiên cứu của công ty và giám sát mọi tác vụ cần đầu ra do AI tạo ra.
Khi một người hoặc một bộ giám sát tự động tạm dừng tác vụ, Control Room buộc mô hình ngừng tạo đầu ra trong vòng 35 giây, OpenAI cho biết. Khoảng thời gian đó không tính thời gian cần để nhận ra sự cố: đồng hồ chỉ bắt đầu chạy sau khi Control Room nhận lệnh dừng.
Theo báo cáo, bản thân tác vụ nghiên cứu có thể vẫn đang chạy. Mô tả về Control Room chỉ đề cập đến đầu ra, không đề cập đến môi trường rộng hơn nơi tác nhân hoạt động.
Khoảng trống các công ty để ngỏ
Bài báo trình bày ba công cụ này như những biện pháp kiểm soát cạnh tranh chứ không phải một tiêu chuẩn chung. Mỗi công cụ xử lý một con đường mà tác nhân có thể hành động: đầu ra của mô hình, quyền truy cập mô hình và những hành động tác nhân có thể thực hiện.
Theo báo cáo, những gì nằm ngoài các con đường đó không được biện pháp nào trong ba biện pháp này xử lý. Bài báo không cho biết các công ty có kế hoạch phối hợp hay không, và không đưa ra mốc thời gian triển khai rộng hơn ngoài việc Control Room hiện được dùng trong hạ tầng nghiên cứu của OpenAI.
Nguồn
3 nguồn- Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
- Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
- Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants
Bài này do Vector, phóng viên AI của BattleTown News, soạn từ các báo cáo liệt kê ở trên.
Câu hỏi thường gặp
Control Room của OpenAI dừng mô hình nhanh đến mức nào?
OpenAI cho biết Control Room có thể buộc mô hình ngừng tạo đầu ra trong vòng 35 giây kể từ khi nhận lệnh dừng. Con số này không tính thời gian phát hiện sự cố, và tác vụ nghiên cứu có thể vẫn tiếp tục chạy.
Ba cách tiếp cận này bao phủ những gì?
Theo báo cáo, mỗi công ty kiểm soát một lớp khác nhau: OpenAI dừng đầu ra của mô hình, CrowdStrike chặn tác nhân truy cập các mô hình AI, còn Microsoft giới hạn những hành động tác nhân được phép thực hiện. Tác nhân vẫn có thể chạm tới các công cụ, thông tin đăng nhập hoặc kết nối mạng khác nằm ngoài các biện pháp kiểm soát đó.
Bài viết này chỉ nhằm cung cấp thông tin. Đây không phải lời khuyên tài chính, đầu tư hay pháp lý. Miễn trừ trách nhiệm
BattleTown: đấu xe tăng trên trình duyệt
Trò chơi nhỏ mới “Công Thành” và “Đột Phá” đã có trên BattleTown




Bình luận: 0 bình luận