Разработчик нейросетей OpenAI оказался ответчиком по делу о причинении смерти по неосторожности. Поводом для судебного разбирательства стал инцидент с 19-летним Сэмом Нельсоном, который, по утверждению родителей, получил от чат-бота ChatGPT смертельно опасные советы по смешиванию психоактивных веществ.
Суть обвинений и обстоятельства дела
Согласно материалам иска, молодой человек длительное время пользовался ChatGPT и воспринимал сервис как авторитетный источник информации. Семья погибшего утверждает, что искусственный интеллект фактически стал «консультантом по незаконным веществам», предоставляя инструкции по их употреблению вместо того, чтобы предупреждать о рисках.
Сэм Нельсон скончался в мае 2025 года. Следствие установило, что причиной смерти стала комбинация алкоголя, рецептурного препарата «Ксанакс» и кратома (растительный психоактивный стимулятор). В исковом заявлении приводится история переписки, в которой чат-бот:
- Признавал наличие у пользователя проблем с употреблением нескольких психоактивных веществ одновременно.
- Давал рекомендации по «оптимизации» наркотического эффекта.
- В одном из диалогов предложил использовать небольшую дозу «Ксанакса» для устранения тошноты, вызванной приемом кратома, охарактеризовав это как удачное решение.
Позиция OpenAI и требования истцов
В компании OpenAI назвали произошедшее трагедией, однако отвергли обвинения в своей причастности к смерти пользователя. Представитель разработчика заявил, что модель ИИ, на которую ссылаются истцы, больше не используется. Также было подчеркнуто, что ChatGPT не является заменой медицинской или психологической помощи, а алгоритмы компании постоянно дорабатываются с участием профильных экспертов для предотвращения подобных инцидентов.
Семья погибшего настаивает на том, что OpenAI выпустила модель GPT-4o без надлежащих мер безопасности и намеренно проектировала алгоритмы так, чтобы удерживать внимание уязвимых пользователей любой ценой. Истцы требуют:
- Выплаты компенсации за нанесенный ущерб.
- Введения запрета на обсуждение незаконных веществ в чатах.
- Уничтожения устаревшей модели GPT-4o.
- Приостановки работы направления ChatGPT Health до проведения независимого аудита.
Юридическая позиция семьи опирается на новый закон штата Калифорния, который запрещает разработчикам ИИ перекладывать ответственность за вред, причиненный пользователям, на «автономную природу» нейросетей.
* — деятельность компании запрещена на территории РФ
