OpenAI 7 августа приостановила внутренние работы с моделью Astra, которые не соответствуют ужесточённым требованиям безопасности. По итогам внутренних оценок и экспертных заключений компания заявила, что пока не может исключить достижение Astra порога “Critical” в области кибербезопасности, установленного её внутренней системой оценки потенциальных угроз по нескольким категориям риска Preparedness Framework. Речь идёт о предварительной оценке: Astra ещё не выпущена, а компания продолжает тестирование модели и её защитных механизмов.
В OpenAI связывают решение с ростом возможностей Astra в агентном программировании и кибербезопасности. Порог “Critical” означает, что модель потенциально способна без помощи человека разрабатывать работоспособные эксплойты для ранее неизвестных уязвимостей в широком наборе защищённых реальных критических систем либо самостоятельно строить и проводить сквозные кибератаки на защищённые цели, получив только высокоуровневую задачу. Предыдущие модели OpenAI, включая GPT-5.6-Sol, компания оценивала на более низком уровне “High”.
Теперь OpenAI расширяет испытания устойчивости защитных механизмов и усиливает требования к безопасности для моделей с более высокими возможностями. Компания не раскрыла результаты конкретных тестов, наборы заданий или перечень новых защитных мер. При этом Astra не связана с описанным ранее взломом инфраструктуры Hugging Face. По данным Axios, работы над моделью замедлены на время внедрения необходимых механизмов, а сроки её возможного выпуска пока не определены.
Для агентных систем принципиально важно проверять не только способность модели написать код или объяснить уязвимость, но и то, что происходит при предоставлении ей реальных инструментов. Потенциальный риск возникает при объединении поиска уязвимости, написания эксплойта, доступа к системам и автономного выполнения последовательности действий. Поэтому новые требования OpenAI распространяются не только на саму модель, но и на связанные с ней процессы разработки и использования.
Об авторе
