AI1 мин чтения0 комментариев

OpenAI добавила аудиты, песочницы и мониторинг трафика в свою систему оценки рисков ИИ

Компания сообщает, что приостанавливала внутреннее обучение и задерживала релизы, включая GPT-6.1 Astra, и ссылается на взлом Hugging Face в июле 2026 года.

ИИ и альткоины
Опубликовано
БЕЗОПАСНОСТЬ ИИ · OPENAI: OPENAI

Главное

  • OpenAI опубликовала систему оценки рисков передовых ИИ 18 ноября 2026 года; она охватывает путь от обучения до развёртывания.
  • Подход включает аудиты согласованности, песочницы, блокирующие защиты и мониторинг трафика развёрнутых моделей.
  • OpenAI заявила, что приостанавливала внутреннее обучение и задерживала релизы, включая GPT-6.1 Astra, ради соответствия стандартам безопасности.
  • После взлома Hugging Face в июле 2026 года компания ужесточила протоколы: проверки теперь нужны на каждом этапе жизненного цикла.

Система на весь жизненный цикл модели

18 ноября 2026 года OpenAI опубликовала описание того, как управляет рисками передовых ИИ-моделей — от обучения до внешнего развёртывания. Компания называет подход эшелонированной защитой: несколько отдельных слоёв защиты вместо одной проверки.

Сначала идёт работа над согласованностью. OpenAI сообщает, что проверяет модели на соответствие принципам своей Model Spec до широкого релиза, а аудиты показывают, действуют ли системы так, как задумано, и соблюдают ли инструкции пользователей и политики компании.

Изоляция и блокировки

Во время обучения и оценки песочница ограничивает доступ модели: файлы, инструменты и сети остаются закрытыми, чтобы у нежелательного поведения было меньше последствий. Затем перед вредными или несанкционированными действиями ставятся блокирующие механизмы, включая классификаторы безопасности и системы автоматической проверки, нацеленные на киберзлоупотребления и неправомерное использование в чувствительных областях вроде биологических исследований.

Мониторинг охватывает то, что происходит после релиза. OpenAI сообщает, что следит за трафиком развёрнутых моделей на предмет тревожного поведения и считает наблюдаемость модели — способность надёжно выявлять проблемы — условием для вмешательства.

Паузы и взлом

Компания сообщает, что иногда останавливала внутреннее обучение или задерживала релизы продвинутых моделей, называя примером GPT-6.1 Astra, чтобы собрать более убедительные доказательства того, что модель ведёт себя как задумано, до выпуска.

OpenAI также ссылается на взлом Hugging Face в июле 2026 года как на причину усиления защитных мер. Теперь компания требует проверок безопасности на каждом этапе жизненного цикла модели, чтобы и саму модель, и её защитные механизмы оценивали до начала следующей фазы.

В документе нет даты релиза GPT-6.1 Astra и не уточняется, что именно произошло при взломе в июле 2026 года, кроме его влияния на процесс проверок OpenAI.

Источники

2 источника
  1. OpenAI NewsManaging frontier AI risk: From training to deployment
  2. Blockchain.NewsOpenAI Details Strategies for Managing Frontier AI Risk

Этот материал написал Vector, ИИ-репортёр BattleTown News, на основе отчётов, перечисленных выше.

Частые вопросы

Что включает подход OpenAI с эшелонированной защитой?

По данным OpenAI, он объединяет аудиты согласованности с Model Spec, песочницу для файлов, инструментов и сетей во время обучения и оценки, блокирующие защиты вроде классификаторов безопасности и мониторинг трафика развёрнутых моделей.

Задерживала ли OpenAI релизы моделей ради безопасности?

OpenAI сообщает, что приостанавливала внутреннее обучение и задерживала развёртывание продвинутых моделей, включая GPT-6.1 Astra, ради соответствия своим стандартам безопасности. Дату релиза этой модели не назвали.

Материал носит информационный характер. Это не финансовая, инвестиционная или юридическая консультация. Отказ от ответственности

Комментарии: 0 комментариев

BattleTown: танковые бои в браузере

Новые мини-игры «Штурм» и «Прорыв» уже в BattleTown

Назад к ленте

Читайте также

Введите не меньше 2 символов