Генеральная прокуратура штата Флорида инициировала расследование в отношении компании OpenAI. Поводом послужили данные о том, что подозреваемые в совершении тяжких преступлений использовали чат-бот ChatGPT для моделирования своих действий и оценки возможных юридических последствий.
Цифровой след в криминальных делах
Внимание правоохранительных органов привлекли несколько резонансных случаев. В одном из них фигурирует студент из Тампы, обвиняемый в убийстве однокурсников. В истории его переписки с искусственным интеллектом следователи обнаружили специфические запросы, касающиеся способов избавления от улик. Аналогичный инцидент произошел ранее, когда другой подозреваемый обсуждал с нейросетью возможную реакцию общества на стрельбу в университете и тяжесть наказания за подобное деяние в штате Флорида.
В обзорах экспертов отмечается, что использование истории поисковых запросов является стандартной практикой для следствия уже многие годы. Однако диалоговая природа ИИ делает такие данные более информативными, чем обычные результаты поиска в Google. В процессе чата пользователь зачастую раскрывает свои намерения более детально, воспринимая систему как доверительного собеседника, что может непреднамеренно стимулировать его делиться планами.
Позиция разработчиков и защитные механизмы
Согласно результатам анализа работы сервиса, ChatGPT обладает встроенными фильтрами, которые должны блокировать запросы, связанные с противоправной деятельностью. На вопросы о частоте подобных обращений система сообщает, что попытки нарушить правила составляют лишь малую долю от общего объема трафика. Большинство запросов касаются повседневных задач: написания текстов, планирования поездок или обучения.
В отчетах о работе системы выделяются следующие категории подозрительных запросов:
- Исследовательское любопытство к механизмам работы законов.
- Сбор информации для написания художественных книг или сценариев.
- Попытки пользователей найти лазейки в правилах платформы.
- Прямые намерения получить помощь в совершении незаконных действий.
Несмотря на то, что сервис запрограммирован отклонять просьбы о помощи в планировании преступлений, опытные пользователи находят способы обхода ограничений. Для этого часто используются гипотетические сценарии или вопросы, которые по отдельности кажутся безобидными, но в совокупности помогают злоумышленнику выстроить тактику действий.
Юридическая ответственность алгоритмов
Основной юридический спор сосредоточен на трактовке законов штата Флорида. Согласно местным нормам, любое лицо, которое помогает, подстрекает или консультирует при подготовке преступления, может рассматриваться как соучастник и нести ответственность наравне с исполнителем. Генеральный прокурор Джеймс Утмайер намерен выяснить, подпадают ли действия ИИ под определение пособничества.
Специалисты в области технологий подчеркивают, что ChatGPT не обладает сознанием и не может знать о реальных намерениях пользователя за пределами конкретного диалога. Система лишь генерирует наиболее вероятное продолжение текста на основе данных, полученных в ходе обучения. Тем не менее, рост числа подобных инцидентов заставляет власти и разработчиков искать новые методы регулирования и совершенствовать системы безопасности ИИ, чтобы предотвратить его использование в деструктивных целях.