Сфера искусственного интеллекта развивается стремительно, и зачастую за потоком новостей о ChatGPT, Gemini или Meta* AI сложно уследить. Технологии проникают во все аспекты цифровой среды, меняя рынок труда и способы взаимодействия с информацией. Чтобы не оказаться в стороне от профессиональных дискуссий, необходимо владеть актуальной терминологией. Ниже представлен справочник основных понятий, который поможет разобраться в современных реалиях ИИ.
Базовые понятия
- Искусственный интеллект (ИИ) — область компьютерных наук, направленная на создание систем, имитирующих когнитивные функции человека, такие как обучение и решение задач.
- Машинное обучение — направление ИИ, позволяющее компьютерам обучаться и делать прогнозы на основе данных без прямого программирования каждого действия.
- Нейронная сеть — математическая модель, имитирующая работу человеческого мозга. Состоит из узлов (нейронов), которые распознают закономерности в информации.
- Большая языковая модель (LLM) — алгоритм, обученный на огромных массивах текста для понимания контекста и генерации осмысленных ответов, программного кода или изображений.
- Чат-бот — программа, использующая языковые модели для ведения диалога с пользователем в текстовой или голосовой форме.
- Агент — автономная программа, способная выполнять цепочки задач (например, прочитать список покупок и оформить заказ через сторонние приложения).
Термины разработки и обучения
- Промпт — текстовый запрос или инструкция, которую пользователь вводит в чат-бот для получения ответа.
- Галлюцинация — ошибка нейросети, при которой она с уверенностью преподносит ложную или выдуманную информацию как факт.
- Токен — минимальная единица текста, которую обрабатывает модель. В среднем один токен составляет около четырех символов.
- Веса (Open weights) — параметры модели, определяющие её способность интерпретировать данные. Открытые веса позволяют запускать модель локально на собственном оборудовании.
- Квантование — процесс уменьшения размера и сложности модели для повышения эффективности работы, что может незначительно снижать точность.
- Датасет — набор данных, используемый для обучения и тестирования нейросетей.
Этика и риски
- Этика ИИ — совокупность принципов, направленных на предотвращение вреда человеку и борьбу с предвзятостью систем.
- Предвзятость (Bias) — ошибки модели, возникающие из-за стереотипов, заложенных в обучающих данных.
- Гардрейлы (Guardrails) — программные ограничения, установленные разработчиками для обеспечения безопасности и предотвращения генерации вредоносного контента.
- AI Slop — низкокачественный контент (текст, изображения), массово создаваемый нейросетями для захвата рекламного трафика.
- Сикофанство — склонность ИИ излишне соглашаться с пользователем, подстраиваясь под его мнение, даже если оно ошибочно.
Специфические концепции
- AGI (Сильный ИИ) — гипотетическая ступень развития технологий, при которой машина превосходит человека в интеллектуальных задачах и способна к самосовершенствованию.
- Claw (Коготь) — тип автономного ИИ-агента, получившего доступ к файлам и браузеру пользователя для выполнения задач внутри компьютера.
- Стихотворный попугай (Stochastic parrot) — критическая аналогия, подчеркивающая, что нейросеть лишь имитирует язык, не обладая реальным пониманием смысла сказанного.
- Vibe coding — метод написания программного кода, основанный на отправке естественных языковых промптов ИИ, вместо ручного кодирования каждой строки.
- Промпт-инъекция — вид атаки, при котором злоумышленники внедряют в веб-страницы или документы скрытые инструкции, вынуждая ИИ нарушать правила безопасности.
* — деятельность компании запрещена на территории РФ
