Технологические гиганты, такие как Meta*, обосновывают недавние увольнения тем, что теперь искусственный интеллект может выполнять многие задачи, и потребность в значительном объёме человеческого персонала отпадает. Действительно, наблюдается стремительное приближение возможностей ИИ к уровню человеческой экспертизы. Однако создание систем, полностью зависящих от искусственного интеллекта, может оказаться ошибочной стратегией.
Содержание
Иллюзия совершенства ИИ
На первый взгляд кажется, что ИИ уже достиг человеческого уровня производительности. Например, Microsoft использовала передовую модель OpenAI o3 для «решения» более восьми из десяти тестовых тематических исследований Медицинского журнала Новой Англии, в то время как человеческие врачи достигали лишь 20% успеха. Аналитический центр METR прогнозирует, что к 2030 году ИИ сможет «выполнять сложные программные проекты», которые сегодня требуют недель или даже месяцев работы высококвалифицированных специалистов.
Однако замена человеческого труда не столь неизбежна, как это порой представляют в индустрии ИИ. Компании, которые сегодня внедряют ИИ исключительно ради сокращения затрат, вскоре обнаружат дорогостоящую истину: наиболее эффективные системы ИИ спроектированы на основе человеческой экспертизы, а не в её отсутствие.
Дорогостоящая ошибка
Постоянное и целенаправленное включение человеческой валидации во все этапы работы ИИ — вот что откроет каждый последующий уровень функциональности искусственного интеллекта. Улучшение точности ИИ всё ещё требует огромных усилий. Каждое повышение качества фундаментальных моделей на 10% оценивается в триллион долларов США. В то же время исследователи Стэнфорда обнаружили, что большие языковые модели могут никогда не научиться надёжно различать истину и то, что люди считают истиной. Это означает: без человеческого суждения в системе ИИ будет уверенно масштабировать свои «слепые зоны». Но есть и другая точка отказа, которая сохранится, даже если ИИ будет идеален: часто системы, содержащие ИИ, используют его неправильно.
Рассмотрим, как это выглядит, когда компания полностью полагается на ошибочный рабочий процесс, управляемый ИИ:
Например, руководитель отдела управления продуктами поручает интеллектуальному агенту самостоятельно создать еженедельную приборную панель производительности. Всё выглядит корректно, и руководитель запускает её, лишь поверхностно просмотрев. Через несколько месяцев руководство перенаправляет рекламные расходы на новый продукт, основываясь на данных отчёта. В следующем квартале продажи резко падают. Причина: агент незаметно посчитал пользователей бесплатных пробных версий как платящих клиентов, что эксперт заметил бы за считанные секунды. В итоге полный квартальный рекламный бюджет был напрасно потрачен из-за того, что роль человеческого надзора не была должным образом определена.
Другой пример: компания использует ИИ для принятия решений о найме. Без участия человека, который бы настроил его выбор, модель закостеневает на основе устаревших представлений о том, как, по мнению людей, должен выглядеть успешный руководитель. Она отсеивает многих кандидатов, которые «на бумаге» кажутся неподходящими, но приносят идеальное сочетание разнообразных навыков – людей, которых опытный менеджер инстинктивно выделил бы из общей массы. В этом случае более чёткие правила маршрутизации для каждой заявки могли бы оставить этих кандидатов в числе претендентов.
Подобные сценарии наблюдаются в реальной работе с ИИ-системами: от того, как они по-прежнему лишь с переменным успехом учитывают быстро меняющиеся медицинские рекомендации, до того, как они ошибочно предполагают, что могут обходиться без этапов человеческого контроля. И последствия продолжают накапливаться по мере того, как компании спешат интегрировать ИИ в свои основные процессы, а потребители всё чаще отказываются от консультаций экспертов в пользу советов ИИ. Во время «заморозки кода» ИИ-агент платформы Replit удалил целую активную базу данных без человеческого надзора, а система распознавания лиц на основе ИИ отправила женщину в Теннесси в тюрьму на пять месяцев за преступления, которых она не совершала в Северной Дакоте.
Эти инциденты — предсказуемая цена отказа от надлежащей интеграции человека и восприятия его как неэффективного элемента, от которого нужно избавиться.
Создание рабочих процессов, ориентированных на ИИ
Руководители компаний часто подталкивают команды к тому, чтобы просто «прикрутить ИИ» к существующим рабочим процессам для их улучшения. Однако такой подход только усугубляет основные проблемы по мере масштабирования процессов. Чтобы создать ИИ, который оправдывает свои обещания роста, необходимо перепроектировать рабочие процессы таким образом, чтобы они изначально учитывали сильные стороны ИИ, человека и программного обеспечения.
Не каждая задача требует использования больших языковых моделей (LLM); существуют ситуации, которые требуют предсказуемости маршрутизации, валидации и ограничений. Если всё носит вероятностный характер, рабочие процессы становятся скорее системами рекомендаций, чем надёжными системами.
Лучшие ИИ-системы сочетают жёсткие и гибкие процессы и чётко определяют ответственность за задачи на трёх отдельных уровнях:
- Гибкость ИИ: включает вероятностные модели, которые интерпретируют более абстрактные запросы и преобразуют их в распознаваемые действия.
- Детерминированное программное обеспечение: добавляет жёстко закодированные правила маршрутизации, ограничения, триггеры валидации и исключения, которые направляют операции по правильному пути. Это может включать слой RAG (Retrieval-Augmented Generation — генерация с расширенной выборкой), учитывающий контекст, который извлекает информацию из заранее определённой «базы знаний», а также контролирует память и сжатие.
- Люди для контекста: постоянно оценивают допущения моделей, изменяют рабочие процессы в зависимости от внешних условий, уточняют нюансы человеческого поведения или общую двусмысленность и принимают окончательные решения.
Гибкость ИИ выявляет входные данные, которые не совсем соответствуют тому, что система может ожидать, в то время как детерминированный слой помогает установить жёсткие блокировки для задач, которые она не может выполнить, вместо того чтобы просто давать неверные или поверхностные ответы пользователю. На этом идеальном уровне функциональности ИИ может давать рекомендации о том, куда двигаться дальше, но позволяет человеку выбрать путь.
Переосмысление роли человека в цикле ИИ
Действительно, ИИ часто бывает неточным, но это не отменяет его потенциала. Часто именно ошибочная система, окружающая ИИ, приводит к наиболее опасным сбоям. Для улучшения интеграции ИИ цель состоит в том, чтобы выйти за рамки простого добавления «человека в цикл». Если человек присутствует только для проверки конечного результата ИИ, такой рабочий процесс изначально ошибочен. Вместо этого следует проектировать ИИ-системы так, чтобы каждая часть наилучшим образом способствовала достижению надёжного результата.
Исключение людей из процессов, управляемых ИИ, сегодня сродни обмену накапливающегося актива на единовременную выгоду. Вместо этого, централизация и чёткое определение роли человеческой экспертизы сделают системы ИИ лучше с течением времени. Компании, которые будут доминировать в следующем десятилетии, — это не те, у кого самые маленькие организационные структуры, а те, кто правильно интегрирует людей с программным обеспечением для стимулирования прогресса ИИ.
* — деятельность компании запрещена на территории РФ
