Компания Meta* временно приостановила инициативу по сбору широкого спектра данных своих сотрудников, которая использовалась для обучения систем искусственного интеллекта. Решение было принято после того, как персонал дважды получил доступ к конфиденциальной информации из-за уязвимости в системе безопасности.
Суть программы и сбой в системе защиты
Программа под названием Model Compatibility Initiative (MCI) была запущена в апреле текущего года. Ее цель заключалась в сборе детальной информации о действиях сотрудников за компьютерами: движениях мыши, кликах, нажатиях клавиш, а также содержимом экранов. Изначально сотрудники не могли отказаться от участия в проекте.
Собранный массив данных включал в себя чрезвычайно чувствительную информацию:
- полные тексты запросов к ИИ и их расшифровки;
- личные переписки сотрудников;
- персональные данные и отчеты об оценке эффективности работы.
По словам представителей руководства Meta*, сбор этих сведений был необходим для обучения ИИ-моделей управлению программным обеспечением по аналогии с человеком. В компании посчитали, что действия собственных сотрудников — лучший материал для обучения нейросетей.
Однако в середине июня выяснилось, что посторонние сотрудники получили несанкционированный доступ к этой базе данных. По заявлению вице-президента Meta* по исследованиям в области ИИ Стефана Касриеля, первую уязвимость удалось закрыть в течение четырех часов. Тем не менее принятые меры оказались неэффективными, и компании пришлось вводить дополнительные жесткие ограничения на доступ.
Критика со стороны экспертов по безопасности
Несмотря на то, что рыночная стоимость владельца социальной сети Facebook* оценивается в 201 млрд долларов, аналитики назвали меры защиты собранных данных крайне недостаточными. Эксперты указывают на серьезный разрыв между управленческими решениями и технической реализацией проекта.
По мнению специалистов по кибербезопасности, сбор высокорискованных телеметрических данных без зрелой системы контроля доступа — это классическая ошибка ИИ-стратегий. На таких масштабах любая ошибка в конфигурации превращает внутренние данные в источник системной угрозы.
Представители консалтинговых агентств отмечают, что главная проблема заключается не в самом факте сбора информации, а в уязвимости механизмов ее защиты. Компании часто ошибочно полагают, что если собираемые данные напрямую не относятся к персональным сведениям, то они не требуют повышенных мер безопасности. Однако внутренние чаты, таблицы и отчеты об эффективности могут раскрыть конфиденциальные особенности работы бизнеса.
Репутационные риски и потеря доверия
В официальном заявлении Meta* подтвердила приостановку программы на время проведения расследования. Представители компании подчеркнули, что проект изначально разрабатывался с учетом требований конфиденциальности, и на данный момент нет прямых доказательств неправомерного использования данных.
Тем не менее аналитики сходятся во мнении, что инцидент нанес серьезный удар по доверию внутри организации. Поведение пользователей и сотрудников за компьютером по умолчанию является чувствительной информацией. Если сотрудники перестают верить заявлениям руководства о безопасности их личных данных, это неизбежно ведет к снижению дисциплины, попыткам обойти внутренние правила и общему ухудшению корпоративной культуры.
* — деятельность компании запрещена на территории РФ