В Канаде подан иск против OpenAI от семьи ребёнка, пострадавшего при стрельбе в школе города Тамблер-Ридж 10 февраля. Тогда 18-летний Джесси Ван Рутселаар убил восемь человек, включая пятерых детей. Как выяснилось, за несколько месяцев до трагедии он обсуждал с ChatGPT сценарии насилия с применением оружия. Система безопасности OpenAI зафиксировала эти диалоги, но компания лишь заблокировала аккаунт стрелка, не уведомив власти.
Позже OpenAI обнаружила второй аккаунт, связанный с ним, и также заблокировала его. В компании заявили, что сочли активность не указывающей на «достоверное или неизбежное планирование». Однако семья погибших считает, что если бы OpenAI сообщила о подозрительном поведении, трагедии можно было бы избежать.
Истцы утверждают, что компания поспешно выпустила ChatGPT без надлежащих проверок безопасности, и её действия «предосудительны и морально отвратительны». Они требуют компенсации морального вреда и проведения расследования. Ранее глава OpenAI принёс извинения семьям погибших, но юридических последствий это не имело.
Этот случай поднимает важные вопросы об ответственности разработчиков ИИ за контент, генерируемый их системами, и о необходимости взаимодействия с правоохранительными органами. Эксперты призывают законодательно урегулировать обязанность компаний сообщать о потенциальных угрозах.
Об авторе
