OpenAI приостановила работу над Astra: модель подошла к критическому порогу кибербезопасности
Компания OpenAI приняла беспрецедентное решение — 7 августа она приостановила внутренние работы с моделью Astra, поскольку предварительная оценка показала, что та может достичь критического порога (Critical) по шкале киберугроз Preparedness Framework. Это означает, что система потенциально способна самостоятельно разрабатывать эксплойты для неизвестных уязвимостей в реальных защищённых системах или проводить автономные кибератаки по высокоуровневой задаче, без вмешательства человека.
Решение вызвано ростом способностей Astra в области агентного программирования и кибербезопасности. В отличие от предыдущих моделей, таких как GPT-5.6-Sol, которые оценивались как High (высокий уровень), Astra приблизилась к порогу, где возможен автономный взлом. Это стало первым случаем для OpenAI, когда предварительное тестирование заставило остановить разработку ещё до выпуска модели. Компания не раскрыла точные результаты тестов, но ясно, что защитные механизмы не всегда дают полную гарантию безопасности.
Примечательно, что Astra пока не связана с недавней утечкой на Hugging Face или другими инцидентами — проблема именно в потенциальном уровне её способностей. В OpenAI решили, что выпускать систему с таким потенциалом без дополнительного усиления механизмов контроля — слишком рискованно. Всё это происходит на фоне растущей конкуренции между OpenAI и другими разработчиками ИИ, особенно с китайскими и европейскими проектами, которые могут не столь жёстко регулировать свои системы.
Сравнение с политикой других компаний показывает, что Alphabet (Google DeepMind) и Anthropic также используют внутренние шкалы рисков, но пока не приостанавливали работы на пороге Critical. Это выделяет OpenAI как компанию, которая готова замедлить разработку ради безопасности, что может стать прецедентом для всей отрасли. Однако есть и риск — конкуренты могут не следовать такому подходу, и это создаст дисбаланс на рынке ИИ.
Проблема особенно остра для агентных систем, которые получают доступ к реальным инструментам, а не просто генерируют текст. В таких сценариях критически важно проверять не только знание модели об уязвимостях, но и её способность применять это знание на практике — в автоматическом режиме, без контроля. Именно это стало камнем преткновения для Astra.
Вывод: приостановка работы Astra — важный сигнал для всей индустрии, что защита от автономных ИИ-атак становится не просто теоретической, а практической проблемой. OpenAI демонстрирует, что безопасность может быть приоритетнее скорости вывода на рынок, но пока она может позволить себе это благодаря своему лидерству. Вопрос в том, как скоро конкуренты или даже другие лаборатории в самой OpenAI смогут создать защищённую версию, которая пройдёт все пороги. До тех пор Astra остаётся напоминанием о том, что ИИ-революция сопровождается серьёзными рисками, которые не решаются одними лишь техническими методами.
Читайте также:
Почему это важно
- Китай запустил крупнейшую в мире LFP-батарею на 4 ГВт·ч, которая…
- Intel Nova Lake-S: 22 ядра и 144 МБ кэша для игр — что известно о…
- Технологический дайджест: главные события недели на CoreNews
Об авторе
