Компания Google активно продвигает платные подписки Gemini Pro и Ultra, заявляя о внушительном контекстном окне объемом до миллиона токенов. Однако подписчики сервиса начали сообщать о серьезном несоответствии между рекламными обещаниями и реальной работой чат-бота в режиме диалога.
Разрыв между ожиданиями и реальностью
Согласно официальным данным разработчиков, расширенное окно контекста позволяет нейросети одновременно обрабатывать до 1500 страниц текста или 30 000 строк программного кода. Предполагается, что искусственный интеллект должен удерживать в памяти весь объем данных на протяжении всей сессии, однако на практике пользователи столкнулись с эффектом «амнезии».
Обозреватели в профильных сообществах и социальных сетях отмечают следующие проблемы при использовании Gemini:
- Быстрая потеря контекста в рамках одной переписки;
- Игнорирование инструкций, данных в начале диалога;
- Ошибки при анализе длинных фрагментов кода после нескольких уточняющих вопросов.
Технические ограничения чат-бота
По словам экспертов, занимающихся тестированием нейросетей, серверная часть Google действительно способна принять массивный файл при первом запросе. Однако динамическое окно памяти, которое отвечает за ведение живого диалога, по всей видимости, жестко ограничено. В ходе тестов было выявлено, что чат начинает забывать информацию уже через 25–30 сообщений, что соответствует лимиту примерно в 16 000 токенов — это значительно меньше заявленного миллиона.
В обзорах подчеркивается, что такая ситуация вводит пользователей в заблуждение. Google не предоставляет прозрачной информации о том, чем отличается общий объем контекста модели от лимитов активного окна чата. Это сравнивают с практикой интернет-провайдеров, которые указывают высокую скорость загрузки данных, но умалчивают о низкой скорости отдачи.
На специализированном портале для разработчиков упоминается, что выходные данные большинства моделей ограничены 65 000 токенов, но не уточняется, как это ограничение влияет на повседневное использование сервиса обычными подписчиками. Для прояснения ситуации в компанию Google был направлен официальный запрос. Редакция ожидает комментариев относительно того, планирует ли технологический гигант более открыто информировать пользователей о реальных технических лимитах своих продуктов на базе ИИ.