Глоссарий: Основные термины
LLM и базовые понятия
LLM (Large Language Model) — большая языковая модель, которая умеет понимать и генерировать текст, опираясь на закономерности в огромных наборах данных.
Токен — минимальная единица текста для модели. Это не всегда слово: токеном может быть часть слова, знак препинания или целое короткое слово.
Контекстное окно — предел объёма данных, обрабатываемых моделью в одном запросе. Размер, допустимый выход и учёт reasoning-токенов зависят от модели и API. Большое окно не гарантирует одинаковую точность работы со всеми его частями; подробнее — Context Engineering.
Промпт — инструкция или запрос, который пользователь отправляет модели.
Inference — процесс запуска модели для получения ответа.
Параметры модели — внутренние численные веса, в которых "зашиты" знания и закономерности, выученные при обучении.
Pretraining — предварительное обучение модели на больших массивах текста, когда она учится предсказывать следующий токен.
Fine-tuning — дополнительная настройка модели на специальном наборе данных под задачу, стиль или домен.
Embedding — числовое представление текста, в котором похожие по смыслу фрагменты находятся близко друг к другу.
Температура — параметр генерации: чем выше, тем ответ обычно более разнообразный и менее предсказуемый; чем ниже, тем более стабильный и прямой.
Hallucination / галлюцинация — ситуация, когда модель уверенно сообщает неверную или выдуманную информацию.
Техники промптинга
Few-shot prompting — способ работы с моделью, когда в промпт добавляют несколько примеров желаемого ответа.
Zero-shot — когда модель решает задачу без примеров, только по инструкции.
Chain-of-thought — пошаговое рассуждение модели. На практике часто важно не само длинное рассуждение, а хорошо структурированный ответ.
Архитектура
Transformer — архитектура нейросети, на которой основано большинство современных LLM.
Attention — механизм, который помогает модели понимать, какие части текста важны в текущем контексте.
RAG и агенты
RAG (Retrieval-Augmented Generation) — подход, при котором модель сначала получает внешние данные из базы знаний или поиска, а потом формирует ответ на их основе.
AI-агент — программная система на базе модели, которая получает цель, собирает необходимый контекст, выбирает допустимые инструменты, выполняет действия, оценивает наблюдения и продолжает цикл до достижения условия остановки.
Agentic system / агентная система — общий термин для системы, в которой модель участвует в выборе действий. Может включать одного агента, детерминированный workflow с агентными шагами или несколько координируемых агентов.
Agent Harness / обвязка агента — программная среда вокруг модели, которая собирает контекст, регистрирует инструменты, исполняет вызовы, хранит состояние, применяет права и управляет циклом выполнения.
Agent Loop / агентный цикл — повторяющаяся последовательность: получить состояние → выбрать действие → выполнить инструмент → получить наблюдение → проверить результат → продолжить или остановиться.
Agentic Workflow — процесс с детерминированным каркасом, внутри которого модель самостоятельно принимает отдельные решения: классифицирует ситуацию, выбирает ветвь, ищет контекст или готовит действие.
Агентность — степень свободы системы при выборе контекста, инструментов, последовательности шагов и момента остановки.
Автономность агента — объём решений и действий, которые агент может выполнить без промежуточного участия человека. Оценивается отдельно для планирования, доступа к данным, выбора инструментов, записи и внешних коммуникаций.
Tool use / вызов инструментов — способность агента пользоваться внешними средствами: поиском, калькулятором, API, календарем, почтой, базой данных.
Function calling — формат, в котором модель не просто пишет текст, а выбирает структуру вызова нужного инструмента с аргументами.
Компоненты агентов
Planner — компонент агента, который решает, какие шаги нужны для достижения цели.
Executor — компонент, который выполняет выбранные шаги и вызывает инструменты.
Observation — результат действия агента: например, ответ API, результат поиска, состояние базы данных.
Action — конкретное действие агента: сделать запрос, прочитать файл, отправить письмо, пересчитать данные.
State / состояние агента — структурированная запись о текущем положении задачи: цель, статус, подтверждённые факты, выполненные действия, артефакты, ошибки, бюджет и контрольная точка.
Trajectory / траектория — последовательность решений, вызовов инструментов и наблюдений, через которую агент пришёл к результату.
Trace / трасса выполнения — техническая запись траектории с версиями модели и инструкций, аргументами инструментов, результатами, ошибками, временем и стоимостью.
Stop condition / условие остановки — формальное правило завершения цикла: критерии готовности выполнены, требуется подтверждение, достигнут лимит, возникла невосстановимая ошибка или задача отменена.
Checkpoint / контрольная точка — сохранённое согласованное состояние, с которого агент может безопасно возобновить работу после сбоя.
Handoff / передача управления — переход задачи от агента к человеку или другому агенту вместе с состоянием, результатами, открытыми вопросами и причиной передачи.
Память
Compaction / сжатие контекста — сокращение истории для следующих запросов с сохранением существенных решений и состояния. Сводка требует проверки актуальности и может терять детали.
KV cache — переиспользуемые представления ранее обработанных токенов при генерации; не долговременная память пользователя.
Prompt caching — повторное использование вычислений для общего префикса запросов по правилам провайдера. Подробнее — оптимизация расходов.
Memory / память агента — механизм сохранения информации между шагами или сессиями.
Short-term memory — краткосрочная память в рамках текущей задачи или диалога.
Long-term memory — долговременная память о предпочтениях, фактах или прошлых действиях пользователя.
Подходы и паттерны
ReAct — подход, где модель чередует рассуждение и действия: подумать → вызвать инструмент → посмотреть результат → продолжить.
Multi-agent system — система, где несколько агентов с разными ролями работают вместе.
Supervisor agent — агент-координатор, который распределяет задачи между другими агентами.
Critic / reviewer — агент или этап проверки, который оценивает качество промежуточного результата.
Workflow — заранее заданная последовательность шагов и переходов. Модель может использоваться внутри отдельных шагов, но общий маршрут контролирует схема процесса.
Orchestration — управление несколькими моделями, агентами, инструментами и шагами в одном процессе.
Guardrails — проверки и ограничения, предназначенные для удержания поведения в заданных границах. Их надёжность зависит от реализации; текстовая инструкция не равна техническому запрету.
Human-in-the-loop — режим, в котором человек подтверждает ключевое действие до его исполнения.
Human-on-the-loop — режим, в котором агент действует самостоятельно в ограниченной области, а человек наблюдает, получает уведомления и может вмешаться.
Human-out-of-the-loop — режим без оперативного участия человека в отдельных запусках. Требует формальных критериев, минимальных прав, автоматических проверок, мониторинга и аварийной остановки.
Retry / повторная попытка — повтор операции после временной ошибки. Для действий с побочным эффектом требует ограничения числа попыток и защиты от дубликатов.
Idempotency / идемпотентность — свойство операции, при котором безопасный повтор не создаёт дополнительного эффекта. Критично для платежей, отправки сообщений и создания записей.
Rollback / откат — возврат системы в подтверждённое состояние после неудачного или ошибочного изменения.
Blast radius / радиус поражения — максимальный объём данных, пользователей или систем, на которые может повлиять один ошибочный запуск агента.
Intent drift / дрейф намерения — постепенное отклонение действий агента от исходной цели по мере накопления промежуточных решений и контекста.
Метрики и оценка
Evaluation / evals — тесты и метрики для проверки качества модели или агента.
Latency — задержка между запросом и ответом.
Cost per token — стоимость обработки входных и выходных токенов.
Rate limit — ограничение нагрузки: например, запросов или токенов за интервал, параллельных операций либо другого ресурса.
Alignment — насколько поведение модели соответствует намерениям разработчиков и ожиданиям пользователя.
Безопасность
Prompt injection — попытка через входные данные подсунуть модели вредную инструкцию и изменить ее поведение.
Инструменты и протоколы
SOTA — state of the art: передовой результат в конкретной задаче и условиях сравнения на определённую дату. Не означает универсально лучшую модель.
MCP (Model Context Protocol) — открытый протокол, который стандартизирует, как AI-приложение подключается к внешним данным и инструментам: файлам, базам данных, API, поиску и другим системам.
ACP (Agent Client Protocol) — протокол взаимодействия клиентского интерфейса с кодирующим агентом; подробнее — ACP.
LSP (Language Server Protocol) — протокол языковых возможностей, включая навигацию и диагностику кода; подробнее — LSP.
Structured Output — получение данных по схеме при поддержке модели и API. Соответствие формату не доказывает истинность значений.
Skill — переиспользуемый пакет инструкций и ресурсов для конкретного типа задач.
Hook — обработчик события или точка расширения в жизненном цикле агента. Hook позволяет выполнить дополнительную логику "до", "после" или "во время" какого-то шага — например, перед вызовом инструмента, после получения результата, при handoff между агентами или при завершении run.
Code execution — выполнение предложенного моделью кода внешней программой. Может использоваться для расчётов, обработки файлов и проверки гипотез. Наличие и качество изоляции зависят от среды исполнения.