Американская компания Anthropic полностью прекратила доступ к своим флагманским моделям искусственного интеллекта Claude Fable 5 и Mythos 5. Решение было принято после экстренного предписания Белого дома, запретившего предоставлять доступ к этим технологиям иностранным гражданам, включая зарубежных сотрудников самой компании-разработчика.
Содержание
Предыстория и причины блокировки
Новейшие нейросети Fable 5 и Mythos 5 были запущены в начале июня. Разработчики позиционировали Fable 5 как самую мощную модель в своей истории, демонстрирующую выдающиеся результаты в программировании, анализе данных и распознавании изображений. Модель Mythos 5 базировалась на тех же алгоритмах, но имела ослабленные ограничения безопасности для более гибкой настройки под задачи клиентов.
Однако уже через несколько дней после релиза администрация Дональда Трампа направила Anthropic требование ограничить доступ к моделям. Поводом для этого стало исследование специалистов по кибербезопасности из компании Amazon. Эксперты обнаружили уязвимость (так называемый джейлбрейк), которая позволяла обходить встроенные фильтры безопасности и получать от ИИ информацию, применимую для организации кибератак. Глава Amazon Энди Джесси лично передал эти данные в Белый дом, после чего последовала незамедлительная реакция властей.
Реакция Anthropic и последствия для индустрии
В ответ на директиву правительства руководство Anthropic решило полностью отключить обе модели для всех пользователей. В компании пояснили, что выполнить требование о выборочной блокировке по национальному признаку технически крайне сложно. Ситуация осложнилась тем, что под запрет попали даже иностранные специалисты самой Anthropic, потерявшие возможность работать над собственным продуктом.
В официальном заявлении представители стартапа выразили несогласие с жесткостью принятых мер. По мнению руководства Anthropic, обнаруженные уязвимости были незначительными, а подобные риски присутствуют и в других коммерческих продуктах на рынке, включая модели конкурентов. Разработчики назвали отзыв ИИ-систем, запущенных для миллионов пользователей по всему миру, избыточным шагом.
Китайский след и вопросы национальной безопасности
По информации профильных изданий, одной из скрытых причин резких мер Белого дома могли стать опасения, что к модели Mythos 5 получили доступ хакерские группировки, связанные с Китаем. В Вашингтоне опасаются, что иностранные специалисты могут использовать метод дистилляции данных (обучение более простой «ученической» модели на ответах продвинутой системы) для воссоздания американских технологий.
Официальные лица США пока не подтвердили эти сообщения. Советник президента Дэвид Сакс в своих заявлениях сфокусировался исключительно на уязвимостях в системе безопасности моделей, не упоминая внешние государственные угрозы.
Последствия для глобального рынка ИИ
Внезапное отключение передовых ИИ-моделей по указке американского правительства вызвало серьезную дискуссию в экспертном сообществе. В обзорах аналитиков отмечаются следующие последствия инцидента:
- Демонстрация жесткого контроля властей США над передовыми технологиями, которые теперь фактически приравниваются к вооружению или технологиям двойного назначения.
- Рост недоверия зарубежных клиентов к американским облачным ИИ-сервисам из-за риска внезапного отключения по политическим мотивам.
- Стимулирование других стран и региональных союзов к форсированной разработке собственных суверенных ИИ-решений, независимых от американской инфраструктуры.
Произошедший прецедент наглядно показал ИИ-индустрии, что геополитические риски становятся ключевым фактором развития технологий, а зависимость от американских провайдеров может нести прямые угрозы для стабильности бизнеса по всему миру.