OpenAI не сообщила властям о подозрительном диалоге с ChatGPT,…

Чат с убийцей: почему OpenAI не остановила трагедию в Канаде?

В мире искусственного интеллекта давно ведутся споры о границах безопасности. Но реальность, как всегда, оказалась сложнее и страшнее теории. В Канаде подан иск против OpenAI от семьи ребёнка, пострадавшего при стрельбе в школе города Тамблер-Ридж. 10 февраля 18-летний Джесси Ван Рутселаар устроил массовый расстрел, унесший жизни восьми человек, пятерых из которых — дети. В ходе расследования выяснилось, что за несколько месяцев до трагедии он вёл с ChatGPT диалоги на тему насилия с применением оружия. ИИ заметил эти сообщения, зафиксировал их, но вместо того, чтобы передать информацию властям, просто заблокировал аккаунт. Позже компания заблокировала и второй аккаунт стрелка. Однако власти так и не были уведомлены.

OpenAI объясняет своё бездействие просто: активность польз�вателя не была признана «достоверным или неизбежным планированием». Мол, тревожные сигналы не достигли порога, при котором компания обязана вмешаться. Но семья погибших считает иначе. В иске утверждается, что если бы OpenAI сообщила о подозрительном поведении, трагедии можно было бы избежать. Истцы настаивают на том, что компания поспешно выпустила ChatGPT без надлежащих проверок безопасности, а её действия названы «предосудительными и морально отвратительными». Глава OpenAI уже принёс извинения семьям погибших, но юридических последствий это не имело.

Этот случай поднимает фундаментальный вопрос: какова ответственность разработчиков ИИ за контент, который их системы создают и анализируют? Ведь ChatGPT не просто пассивный собеседник. Он способен генерировать опасные идеи, если пользователь настойчиво их запрашивает. И когда система фиксирует такое поведение, неужели её единственная реакция — молчаливая блокировка? Особенно в ситуации, когда речь идёт о потенциальной угрозе жизни людей.

Вопрос не в том, должна ли OpenAI сотрудничать с правоохранительными органами. Ответ очевиден — да. Вопрос в том, где проходит черта, за которой алгоритм обязан бить тревогу. Сейчас она слишком размыта, и компании предпочитают не рисковать репутацией, но при этом не брать на себя функцию «цифрового полицейского». Но если система распознаёт угрозу, но предпочитает молчать, чем это отличается от сокрытия преступления?

Эксперты уже призывают законодательно закрепить обязанность ИИ-компаний передавать информацию об угрозах в правоохранительные органы. Но пока такого закона нет, мы остаёмся в серой зоне. А где-то в этой серой зоне уже погибли дети. Тамблер-Ридж — не просто печальная статистика. Это звонок для всей индустрии: ИИ больше не игрушка. Он может спасать жизни. Или, при молчании его создателей, — упускать шанс их спасти. Вопрос лишь в том, когда разработчики начнут к этому относиться серьёзно. Пока что ответ — молчание. Как молчала OpenAI.

Читайте также: