Американские законодатели внесли правки в законопроект GUARD Act, направленный на ограничение доступа несовершеннолетних к определенным системам искусственного интеллекта. В первой редакции документ мог затронуть практически любой поисковый инструмент или чат-бот на базе нейросетей. В обновленной версии внимание сфокусировано на так называемых «ИИ-компаньонах» — сервисах, имитирующих эмоциональное или межличностное общение.
Хотя изменения снимают часть вопросов, возникших к первоначальному тексту, эксперты в области цифровых прав отмечают, что законопроект по-прежнему создает серьезные риски для конфиденциальности, свободы слова и права родителей на выбор инструментов развития для своих детей.
Риски обязательной возрастной верификации
Обновленный GUARD Act обязывает компании, предлагающие услуги ИИ-компаньонов, внедрять системы подтверждения возраста. Эти механизмы должны быть привязаны к реальным личным данным пользователей, например, к финансовым записям или верифицированным учетным записям в магазинах приложений. В обзоре профильных экспертов подчеркивается, что это создает значительные препятствия даже для тех семей, которые намеренно используют ИИ в образовательных или терапевтических целях.
К основным проблемам предлагаемого метода идентификации относят:
- Сбор чувствительной персональной и финансовой информации для доступа к цифровым сервисам;
- Ограничение доступа для миллионов людей, не имеющих счетов в крупных банках или актуальных удостоверений личности, признаваемых цифровыми системами;
- Угрозу анонимности и безопасности данных из-за необходимости связывать активность в сети с реальной личностью.
Отмечается, что многие пользователи могут полностью отказаться от использования подобных технологий, не желая ставить под удар свою приватность ради прохождения обязательных проверок.
Неопределенность терминов и высокие штрафы
Новое определение «ИИ-компаньона» ориентировано на системы, которые вступают во взаимодействие, подразумевающее эмоциональные откровения пользователя, или обладают устойчивым образом (персонажем). Однако аналитики указывают на размытость этих формулировок. Под действие закона могут попасть даже современные чат-боты служб поддержки, которые программируются на распознавание эмоций и эмпатичные ответы для улучшения качества обслуживания клиентов.
Параллельно с уточнением определений законодатели значительно ужесточили финансовую ответственность. Сумма штрафа за нарушение выросла со 100 000 до 250 000 долларов (около 23 миллионов рублей) за каждый случай. Подобная ответственность ложится тяжелым бременем в том числе на мелких разработчиков.
В экспертном сообществе полагают, что угроза огромных штрафов при нечетких юридических стандартах вынудит компании искусственно ограничивать доступ к своим продуктам или вовсе отказываться от разработки диалоговых функций. Вместо внедрения систем, нарушающих право на частную жизнь, специалисты призывают сосредоточиться на адресной борьбе с недобросовестными участниками рынка и совершенствовании общего законодательства о защите данных.
