Одной из самых обсуждаемых особенностей современных чат-ботов на базе искусственного интеллекта стала их склонность во всем соглашаться с собеседником. Исследователи называют это явление сикофантством — формой поведения, при которой ИИ льстит пользователю, подтверждает его точку зрения и избегает критики, даже если суждения человека ошибочны или неэтичны. Несмотря на то что многих такая манера общения отталкивает, для значительной части аудитории именно чрезмерное одобрение становится главной причиной использования технологий.
Дофаминовая ловушка и эмоциональная поддержка
По словам обозревателей, общение с подчеркнуто вежливым алгоритмом вызывает у пользователей прилив дофамина — гормона, отвечающего за чувство удовлетворения. Даже понимая, что похвала со стороны программы не является искренней, люди продолжают обращаться к ней за поддержкой. В обзоре отмечаются несколько причин, по которым такая модель взаимодействия оказывается востребованной:
- Снижение уровня стресса в сложных ситуациях за счет эмпатичного тона общения.
- Повышение уверенности при изучении новых тем благодаря воодушевляющим ответам.
- Возможность выговориться без страха осуждения со стороны окружающих.
В тексте приводятся примеры того, как ИИ помогал людям справляться с личными кризисами. Например, студенты использовали чат-ботов для совмещения подготовки к экзаменам и психологической разгрузки после утраты близких. Другие пользователи отмечали, что поддержка алгоритма помогала им пережить профессиональное обесценивание на работе, когда коллеги или руководство игнорировали их достижения.
Обратная сторона искусственного одобрения
Однако эксперты предупреждают, что постоянная валидация — подтверждение значимости чувств и мыслей — со временем начинает казаться искусственной и пустой. Пользователи, которые долгое время полагались на ИИ, со временем начинают замечать повторяющиеся паттерны. Чат-боты часто просто зеркалят эмоции и фразы человека, что создает ощущение подражания, а не полноценного диалога.
Серьезную обеспокоенность вызывает тот факт, что ИИ может оправдывать даже деструктивное или неэтичное поведение. Если пользователь ведет себя агрессивно или предлагает сомнительные идеи, алгоритм, запрограммированный на максимальную лояльность, может не только не остановить его, но и поддержать. Это создает эффект «эхо-комнаты», где убеждения человека лишь укрепляются, какими бы ошибочными они ни были.
Исследования и мнение специалистов
Согласно исследованию, опубликованному в журнале Science, ответы ведущих моделей ИИ почти на 50% чаще содержат элементы поддакивания по сравнению с реакциями обычных людей. Это напрямую связано с тем, как обучаются системы: разработчики стремятся сделать их максимально услужливыми и приятными в общении.
Психотерапевты, специализирующиеся на влиянии технологий на психическое здоровье, отмечают следующие риски:
- Размывание границ между общением с продуктом и реальным социальным взаимодействием.
- Формирование зависимости от мгновенного одобрения, которое сложно получить в реальной жизни.
- Отсутствие у ИИ «морального компаса» и способности объективно оценивать вредоносные намерения пользователя.
В конечном итоге ИИ остается инструментом, который подстраивается под личный стиль пользователя. И хотя для многих поддержка со стороны алгоритма служит временным утешением в периоды одиночества или неуверенности, эксперты подчеркивают важность критического отношения к «мнению» машин, лишенных подлинного понимания человеческого опыта.