Исследователи безопасности OpenAI выпустили открытое письмо
Открытое письмо
Трое исследователей безопасности OpenAI, уволенных в конце сентября, — Джасмин Ван, Томек Корбак и Никита Балесни — опубликовали открытое письмо, оспаривая утверждение компании о том, что они неправильно обращались с конфиденциальной информацией, и предупреждая, что увольнения создают охлаждающий эффект для культуры безопасности OpenAI.
Что говорит компания
OpenAI заявила, что трое передавали конфиденциальную информацию третьей организации по безопасности ИИ и нарушили правила «доступа и работы с чувствительной информацией компании». Представитель компании описал расследование, вскрывшее «паттерн нарушений» и «явное нарушение правил работы с исследовательской информацией».
Ответ исследователей
Исследователи отрицают, что сливали данные The Information о менее наблюдаемых архитектурах моделей, и отрицают контакты с внешними сторонами за пределами служебных обязанностей. В отдельной ветке X Ван сообщила, что её уволили за доступ к письму руководителя, которое OpenAI передало ей для найма и о чём она сама попросила IT удалить.
«Увольнения, исполненные и объявленные так внезапно, убивают открытую культуру, которой OpenAI гордилась», — говорится в письме. Авторы призвали внедрить сторонних аудиторов безопасности, сохранить наблюдаемость фронтир-моделей и поддерживать открытый диалог с внешней экосистемой безопасности.
Источник: TechCrunch
Об авторе
