Глоссарий: Основные термины
LLM и базовые понятия
LLM (Large Language Model) — большая языковая модель, которая умеет понимать и генерировать текст, опираясь на закономерности в огромных наборах данных.
Токен — минимальная единица текста для модели. Это не всегда слово: токеном может быть часть слова, знак препинания или целое короткое слово.
Контекстное окно — объём текста, который модель может "удерживать в памяти" в рамках одного запроса. Актуальный размер контекста 200тыс-1млн токенов. ВАЖНО: вместе с ростом контекста, качество ответов начинает падать. Внимание модели больше сконцентрировано в начале и конце с просадкой в середине. Выходное окно токенов: 32тыс-64тыс токенов.
Промпт — инструкция или запрос, который пользователь отправляет модели.
Inference — процесс запуска модели для получения ответа.
Параметры модели — внутренние численные веса, в которых "зашиты" знания и закономерности, выученные при обучении.
Pretraining — предварительное обучение модели на больших массивах текста, когда она учится предсказывать следующий токен.
Fine-tuning — дополнительная настройка модели на специальном наборе данных под задачу, стиль или домен.
Embedding — числовое представление текста, в котором похожие по смыслу фрагменты находятся близко друг к другу.
Температура — параметр генерации: чем выше, тем ответ обычно более разнообразный и менее предсказуемый; чем ниже, тем более стабильный и прямой.
Hallucination / галлюцинация — ситуация, когда модель уверенно сообщает неверную или выдуманную информацию.
Техники промптинга
Few-shot prompting — способ работы с моделью, когда в промпт добавляют несколько примеров желаемого ответа.
Zero-shot — когда модель решает задачу без примеров, только по инструкции.
Chain-of-thought — пошаговое рассуждение модели. На практике часто важно не само длинное рассуждение, а хорошо структурированный ответ.
Архитектура
Transformer — архитектура нейросети, на которой основано большинство современных LLM.
Attention — механизм, который помогает модели понимать, какие части текста важны в текущем контексте.
RAG и агенты
RAG (Retrieval-Augmented Generation) — подход, при котором модель сначала получает внешние данные из базы знаний или поиска, а потом формирует ответ на их основе.
AI-агент — программная система на базе модели, которая получает цель, собирает необходимый контекст, выбирает допустимые инструменты, выполняет действия, оценивает наблюдения и продолжает цикл до достижения условия остановки.
Agentic system / агентная система — общий термин для системы, в которой модель участвует в выборе действий. Может включать одного агента, детерминированный workflow с агентными шагами или несколько координируемых агентов.
Agent Harness / обвязка агента — программная среда вокруг модели, которая собирает контекст, регистрирует инструменты, исполняет вызовы, хранит состояние, применяет права и управляет циклом выполнения.
Agent Loop / агентный цикл — повторяющаяся последовательность: получить состояние → выбрать действие → выполнить инструмент → получить наблюдение → проверить результат → продолжить или остановиться.
Agentic Workflow — процесс с детерминированным каркасом, внутри которого модель самостоятельно принимает отдельные решения: классифицирует ситуацию, выбирает ветвь, ищет контекст или готовит действие.
Агентность — степень свободы системы при выборе контекста, инструментов, последовательности шагов и момента остановки.
Автономность агента — объём решений и действий, которые агент может выполнить без промежуточного участия человека. Оценивается отдельно для планирования, доступа к данным, выбора инструментов, записи и внешних коммуникаций.
Tool use / вызов инструментов — способность агента пользоваться внешними средствами: поиском, калькулятором, API, календарем, почтой, базой данных.
Function calling — формат, в котором модель не просто пишет текст, а выбирает структуру вызова нужного инструмента с аргументами.
Компоненты агентов
Planner — компонент агента, который решает, какие шаги нужны для достижения цели.
Executor — компонент, который выполняет выбранные шаги и вызывает инструменты.
Observation — результат действия агента: например, ответ API, результат поиска, состояние базы данных.
Action — конкретное действие агента: сделать запрос, прочитать файл, отправить письмо, пересчитать данные.
State / состояние агента — структурированная запись о текущем положении задачи: цель, статус, подтверждённые факты, выполненные действия, артефакты, ошибки, бюджет и контрольная точка.
Trajectory / траектория — последовательность решений, вызовов инструментов и наблюдений, через которую агент пришёл к результату.
Trace / трасса выполнения — техническая запись траектории с версиями модели и инструкций, аргументами инструментов, результатами, ошибками, временем и стоимостью.
Stop condition / условие остановки — формальное правило завершения цикла: критерии готовности выполнены, требуется подтверждение, достигнут лимит, возникла невосстановимая ошибка или задача отменена.
Checkpoint / контрольная точка — сохранённое согласованное состояние, с которого агент может безопасно возобновить работу после сбоя.
Handoff / передача управления — переход задачи от агента к человеку или другому агенту вместе с состоянием, результатами, открытыми вопросами и причиной передачи.
Память
Memory / память агента — механизм сохранения информации между шагами или сессиями.
Short-term memory — краткосрочная память в рамках текущей задачи или диалога.
Long-term memory — долговременная память о предпочтениях, фактах или прошлых действиях пользователя.
Подходы и паттерны
ReAct — подход, где модель чередует рассуждение и действия: подумать → вызвать инструмент → посмотреть результат → продолжить.
Multi-agent system — система, где несколько агентов с разными ролями работают вместе.
Supervisor agent — агент-координатор, который распределяет задачи между другими агентами.
Critic / reviewer — агент или этап проверки, который оценивает качество промежуточного результата.
Workflow — заранее заданная последовательность шагов и переходов. Модель может использоваться внутри отдельных шагов, но общий маршрут контролирует схема процесса.
Orchestration — управление несколькими моделями, агентами, инструментами и шагами в одном процессе.
Guardrails — ограничения и правила, которые не дают агенту выходить за рамки допустимого поведения.
Human-in-the-loop — режим, в котором человек подтверждает ключевое действие до его исполнения.
Human-on-the-loop — режим, в котором агент действует самостоятельно в ограниченной области, а человек наблюдает, получает уведомления и может вмешаться.
Human-out-of-the-loop — режим без оперативного участия человека в отдельных запусках. Требует формальных критериев, минимальных прав, автоматических проверок, мониторинга и аварийной остановки.
Retry / повторная попытка — повтор операции после временной ошибки. Для действий с побочным эффектом требует ограничения числа попыток и защиты от дубликатов.
Idempotency / идемпотентность — свойство операции, при котором безопасный повтор не создаёт дополнительного эффекта. Критично для платежей, отправки сообщений и создания записей.
Rollback / откат — возврат системы в подтверждённое состояние после неудачного или ошибочного изменения.
Blast radius / радиус поражения — максимальный объём данных, пользователей или систем, на которые может повлиять один ошибочный запуск агента.
Intent drift / дрейф намерения — постепенное отклонение действий агента от исходной цели по мере накопления промежуточных решений и контекста.
Метрики и оценка
Evaluation / evals — тесты и метрики для проверки качества модели или агента.
Latency — задержка между запросом и ответом.
Cost per token — стоимость обработки входных и выходных токенов.
Rate limit — ограничение на число запросов за определённое время.
Alignment — насколько поведение модели соответствует намерениям разработчиков и ожиданиям пользователя.
Безопасность
Prompt injection — попытка через входные данные подсунуть модели вредную инструкцию и изменить ее поведение.
Инструменты и протоколы
SOTA — state of the art — лучшее на сегодня решение.
MCP (Model Context Protocol) — открытый протокол, который стандартизирует, как AI-приложение подключается к внешним данным и инструментам: файлам, базам данных, API, поиску и другим системам.
Skill — переиспользуемый пакет инструкций и ресурсов для конкретного типа задач.
Hook — обработчик события или точка расширения в жизненном цикле агента. Hook позволяет выполнить дополнительную логику "до", "после" или "во время" какого-то шага — например, перед вызовом инструмента, после получения результата, при handoff между агентами или при завершении run.
Code execution — режим, в котором модель не только пишет текст, но и запускает код в изолированной среде, чтобы посчитать что-то, обработать данные, построить график, преобразовать файл или проверить гипотезу.