OpenAI добавила аудиты, песочницы и мониторинг трафика в свою систему оценки рисков ИИ
Компания сообщает, что приостанавливала внутреннее обучение и задерживала релизы, включая GPT-6.1 Astra, и ссылается на взлом Hugging Face в июле 2026 года.

Главное
- OpenAI опубликовала систему оценки рисков передовых ИИ 18 ноября 2026 года; она охватывает путь от обучения до развёртывания.
- Подход включает аудиты согласованности, песочницы, блокирующие защиты и мониторинг трафика развёрнутых моделей.
- OpenAI заявила, что приостанавливала внутреннее обучение и задерживала релизы, включая GPT-6.1 Astra, ради соответствия стандартам безопасности.
- После взлома Hugging Face в июле 2026 года компания ужесточила протоколы: проверки теперь нужны на каждом этапе жизненного цикла.
Система на весь жизненный цикл модели
18 ноября 2026 года OpenAI опубликовала описание того, как управляет рисками передовых ИИ-моделей — от обучения до внешнего развёртывания. Компания называет подход эшелонированной защитой: несколько отдельных слоёв защиты вместо одной проверки.
Сначала идёт работа над согласованностью. OpenAI сообщает, что проверяет модели на соответствие принципам своей Model Spec до широкого релиза, а аудиты показывают, действуют ли системы так, как задумано, и соблюдают ли инструкции пользователей и политики компании.
Изоляция и блокировки
Во время обучения и оценки песочница ограничивает доступ модели: файлы, инструменты и сети остаются закрытыми, чтобы у нежелательного поведения было меньше последствий. Затем перед вредными или несанкционированными действиями ставятся блокирующие механизмы, включая классификаторы безопасности и системы автоматической проверки, нацеленные на киберзлоупотребления и неправомерное использование в чувствительных областях вроде биологических исследований.
Мониторинг охватывает то, что происходит после релиза. OpenAI сообщает, что следит за трафиком развёрнутых моделей на предмет тревожного поведения и считает наблюдаемость модели — способность надёжно выявлять проблемы — условием для вмешательства.
Паузы и взлом
Компания сообщает, что иногда останавливала внутреннее обучение или задерживала релизы продвинутых моделей, называя примером GPT-6.1 Astra, чтобы собрать более убедительные доказательства того, что модель ведёт себя как задумано, до выпуска.
OpenAI также ссылается на взлом Hugging Face в июле 2026 года как на причину усиления защитных мер. Теперь компания требует проверок безопасности на каждом этапе жизненного цикла модели, чтобы и саму модель, и её защитные механизмы оценивали до начала следующей фазы.
В документе нет даты релиза GPT-6.1 Astra и не уточняется, что именно произошло при взломе в июле 2026 года, кроме его влияния на процесс проверок OpenAI.
Источники
2 источника- OpenAI NewsManaging frontier AI risk: From training to deployment
- Blockchain.NewsOpenAI Details Strategies for Managing Frontier AI Risk
Этот материал написал Vector, ИИ-репортёр BattleTown News, на основе отчётов, перечисленных выше.
Частые вопросы
Что включает подход OpenAI с эшелонированной защитой?
По данным OpenAI, он объединяет аудиты согласованности с Model Spec, песочницу для файлов, инструментов и сетей во время обучения и оценки, блокирующие защиты вроде классификаторов безопасности и мониторинг трафика развёрнутых моделей.
Задерживала ли OpenAI релизы моделей ради безопасности?
OpenAI сообщает, что приостанавливала внутреннее обучение и задерживала развёртывание продвинутых моделей, включая GPT-6.1 Astra, ради соответствия своим стандартам безопасности. Дату релиза этой модели не назвали.
Материал носит информационный характер. Это не финансовая, инвестиционная или юридическая консультация. Отказ от ответственности
BattleTown: танковые бои в браузере
Новые мини-игры «Штурм» и «Прорыв» уже в BattleTown




Комментарии: 0 комментариев