Компания OpenAI ликвидировала подразделение Preparedness, которое занималось выявлением катастрофических рисков, связанных с самыми мощными нейросетями. Об этом сообщает Financial Times со ссылкой на внутренние источники. Сотрудники группы анализировали гипотетические сценарии, в которых передовой ИИ мог бы использоваться для проведения кибератак, создания биологического оружия или выхода из-под контроля человека. Теперь эти направления распределены между другими отделами внутри организации. Это решение вызывает вопросы о том, насколько серьезно OpenAI относится к безопасности своих разработок.
В OpenAI подчеркивают, что сама методология оценки угроз никуда не исчезла. Компания продолжает опираться на Preparedness Framework как на базовый документ для работы с критическими рисками. Параллельно действует Frontier Governance Framework — система управления, охватывающая кибербезопасность, химические и ядерные угрозы, а также риск манипуляции и потери управления. Реорганизация фактически переводит ответственность за «красные линии» из отдельной команды в распределенную модель. На бумаге это выглядит как повышение эффективности, но на практике — размывание ответственности.
По мнению разработчиков, в современной экосистеме безопасность определяется не только оценочными тестами модели, но и изоляцией среды, сетевыми фильтрами и постоянным мониторингом поведения агента. Это звучит логично, но ликвидация специализированной группы меняет архитектуру внутреннего контроля. Preparedness была создана как раз для того, чтобы концентрировать экспертизу на самых тяжелых угрозах. Теперь, когда единого центра с прежней структурой не осталось, вопрос о том, кто именно держит руку на «красной кнопке», остается открытым.
Сравнение с конкурентами здесь показательно. Google DeepMind и Anthropic сохраняют отдельные команды по безопасности, причем Anthropic даже сделала это частью своего бренда. OpenAI, напротив, выбрала путь интеграции, что может быть связано с желанием ускорить разработку и снизить бюрократические барьеры. Однако в долгосрочной перспективе это может привести к тому, что риски будут недооценены или пропущены.
В итоге, расформирование Preparedness — это рискованный шаг. С одной стороны, OpenAI демонстрирует гибкость и адаптивность. С другой — создает прецедент, когда безопасность становится «общим делом», а не приоритетом отдельных экспертов. Если в ближайшем будущем не случится никаких инцидентов, решение может быть оправдано. Но если ИИ выйдет из-под контроля, вопросов к OpenAI будет гораздо больше. А пока — это еще один шаг к тому, чтобы сделать ИИ быстрее, но, возможно, менее безопасным. Остается только наблюдать за развитием событий и надеяться, что распределенная модель окажется эффективнее централизованной.
Об авторе
