Компания Google представила новую функцию Health Coach на базе искусственного интеллекта, которая стала частью обновленного приложения Google Health. Однако первые тестировщики сервиса столкнулись с серьезными ошибками в работе алгоритма, включая генерацию вымышленных данных о физической активности.
Проблемы с достоверностью данных
Одной из главных претензий к новому ИИ-тренеру стала его склонность к галлюцинациям — генерации ложной информации, выдаваемой за реальные факты. В ходе тестирования система корректно анализировала данные о сне, однако ошибочно приписала пользователю пробежку на дистанцию 8 километров, которую тот не совершал.
В процессе взаимодействия с ИИ-ассистентом были выявлены следующие недостатки:
- Выдумывание фактов о тренировках, которые не проводились.
- Предоставление поверхностных и избыточных советов, которые не несут практической ценности.
- Попытки переложить ответственность на пользователя при попытке уточнить детали вымышленной активности.
Конкуренция и ожидания
На фоне запуска платформы Google Health* конкуренты из компании WHOOP объявили о намерении предоставлять пользователям консультации реальных врачей, противопоставляя такой подход автоматизированным решениям на базе нейросетей. Подобная стратегия подчеркивает опасения пользователей относительно надежности ИИ в вопросах здоровья.
Перспективы доработки сервиса
Функция Health Coach позиционируется как премиальный сервис, доступный по платной подписке. Поскольку полноценный запуск экосистемы Google Health* и старт продаж трекера Fitbit Air намечены на конец мая, у разработчиков остается ограниченное время на устранение критических ошибок. Эксперты отмечают, что точность работы алгоритма станет решающим фактором для формирования репутации продукта в глазах целевой аудитории.
* — деятельность компании запрещена на территории РФ
