Глоссарий AI

A2A (Agent-to-Agent) — это протокол или способ прямой коммуникации между AI-агентами. Такой обмен позволяет агентам делегировать задачи друг другу, передавать промежуточные результаты и совместно работать над сложными проблемами. Важно отличать A2A от взаимодействия агента с человеком или внешними API: здесь речь только об общении между агентами.

Agentic AI называют искусственный интеллект, который может самостоятельно планировать и выполнять сложные задачи из нескольких шагов. Такие системы способны выбирать инструменты, принимать решения, запрашивать дополнительную информацию и корректировать свой план на ходу. В отличие от обычных LLM, Agentic AI не ограничивается ответом на одиночный запрос.

AGI (Artificial General Intelligence) — это гипотетический искусственный интеллект, обладающий универсальными интеллектуальными способностями на уровне человека во всех сферах. AGI может решать новые задачи без дообучения и адаптироваться к неизвестным ситуациям, как человек. Термин не относится к существующим моделям, даже самым крупным LLM.

AI Coding Assistant — это инструмент для поддержки программистов, который предлагает автодополнение кода, генерирует целые фрагменты, проводит ревью и объясняет работу функций. Такие ассистенты работают на базе языковых моделей и интегрируются в редакторы кода. Они не заменяют программиста, а ускоряют рутинные задачи и помогают новичкам разобраться с синтаксисом.

AI Democratization называют процесс расширения доступа к технологиям искусственного интеллекта за счёт уменьшения цен на API, появления open-source моделей и no-code инструментов. Это позволяет небольшим компаниям и индивидуальным разработчикам использовать AI наравне с крупными корпорациями. Термин не означает полную открытость всех моделей и данных.

AI ROI (Return on Investment) — это показатель возврата инвестиций после внедрения искусственного интеллекта в бизнес-процессы. Он учитывает прямую экономию за счёт автоматизации, ускорения работы и появления новых возможностей для компании. Важно отличать AI ROI от общего ROI: здесь анализируется только эффект от AI-инициатив, а не всей цифровизации компании.

AI Safety — область исследований и практик, направленных на снижение рисков от использования искусственного интеллекта. В неё входят технические меры безопасности, выравнивание поведения моделей с целями человека (alignment), аудит, а также вопросы регулирования и управления (governance). AI Safety не ограничивается предотвращением 'вредных' ответов — задачи шире и глубже.

AI-агент — это система на основе большой языковой модели, способная самостоятельно планировать и выполнять сложные задачи из нескольких шагов. Такой агент может вызывать внешние инструменты, использовать память и принимать решения без прямого вмешательства человека. В отличие от обычного чат-бота, AI-агент работает автономно и может разветвлять сценарии.

Anthropic — американская компания, создающая языковые модели семейства Claude и инструмент Claude Code для работы с текстом и кодом. Основана в 2021 году бывшими сотрудниками OpenAI, фокусируется на исследованиях в области безопасности и интерпретируемости моделей, а также применяет подход Constitutional AI. Anthropic отличается вниманием к этическим вопросам в обучении ИИ.

API (Application Programming Interface) называют интерфейс, через который одна программа может отправлять запросы другой и получать ответы. Для AI это способ интеграции больших языковых моделей (например, от OpenAI, Anthropic или Google) в сторонние приложения через HTTP-запросы. API позволяет получать ответы моделей, запускать генерацию изображений или анализировать данные без локального развёртывания. API не следует путать с пользовательским интерфейсом — это инструмент исключительно для программ.

BERT (Bidirectional Encoder Representations from Transformers) — языковая модель на архитектуре трансформеров, разработанная Google в 2018 году. Это первая крупная модель, эффективно учитывающая контекст с обеих сторон слова для глубокого понимания текстов. BERT считается предшественником современных LLM, но не может генерировать связный текст так же, как GPT.

Chain-of-Thought (CoT) — это техника промптинга для языковых моделей, при которой модель просят пошагово объяснять ход рассуждений до ответа. Такой подход помогает модели разобрать сложные задачи или вопросы, разбив их на последовательность логических шагов. Метод особенно эффективен для задач, где требуется промежуточное рассуждение, а не просто выдача ответа. Важно не путать CoT с обучением модели: речь идёт о способе формулировки запроса, а не изменении параметров модели.

ChatGPT называют флагманским AI-ассистентом компании OpenAI, который работает на основе модели GPT-4o. Сервис стал самым используемым AI-продуктом в мире и насчитывает более 100 миллионов еженедельных пользователей. ChatGPT применяют для генерации текстов, анализа данных, помощи в программировании и общения на естественном языке. Часто ChatGPT путают с самой моделью GPT: ChatGPT — это конкретный интерфейс и продукт, а не только модель.

Claude — это AI-ассистент от компании Anthropic, ориентированный на точное выполнение инструкций, работу с длинным контекстом (до 200 тысяч токенов), анализ документов и усиление безопасности диалогов. Линейка моделей включает версии Haiku, Sonnet и Opus, каждая из которых оптимизирована под разные задачи. Claude ценят за внимательность к нюансам и контроль за содержанием ответа. Не стоит путать Claude с классическими LLM: Anthropic внедрила в него особые механизмы этики и фильтрации.

Constitutional AI — это метод обучения искусственного интеллекта, разработанный компанией Anthropic. Модель сама оценивает свои ответы по заранее заданным принципам или 'конституции' и постепенно улучшает их с учётом этих критериев. Такой подход позволяет уменьшить влияние субъективных оценок человека в процессе обучения. В отличие от RLHF, здесь модель ориентируется на формализованный набор правил, а не только на обратную связь от людей.

Copilot-режим — это формат работы с AI, при котором система предлагает действия или решения, а пользователь подтверждает или отклоняет их. Такой подход сохраняет контроль за человеком и снижает риск ошибок по сравнению с полностью автономными агентами. Copilot отличается от ассистента тем, что не просто отвечает на вопросы, а активно предлагает шаги в процессе работы.

Cursor — это AI-IDE, то есть редактор кода с глубокой интеграцией языковых моделей для помощи в программировании. Инструмент построен на базе VS Code и поддерживает функции, такие как генерация кода, объяснение фрагментов и AI-assisted рефакторинг. Cursor популярен у разработчиков, практикующих vibe coding — экспериментальное программирование с поддержкой AI. Не стоит путать Cursor с плагинами: это отдельная среда разработки, а не просто расширение для редактора.

Data Flywheel называют эффект, когда увеличение числа пользователей продукта приводит к генерации большего объёма данных, что позволяет дополнительно обучать модели и улучшать сервис. Улучшенный сервис привлекает ещё больше пользователей, формируя маховик роста. Data Flywheel — не универсальный эффект: он проявляется только там, где данные можно использовать для постоянного улучшения алгоритмов.

DPO (Direct Preference Optimization) — метод обучения языковых моделей по предпочтениям без отдельной модели вознаграждения, как в RLHF. Вместо этого модель напрямую оптимизируется на парах предпочтительных и непреференциальных ответов, что повышает стабильность и предсказуемость процесса. Важно различать DPO и RLHF: DPO не требует построения reward-модели, снижая сложность пайплайна.

Few-shot обучением называют способ, при котором языковую модель учат выполнять новую задачу, приводя в промпте несколько (обычно 1–10) примеров решения. Модель не дообучается на отдельных данных, а сразу обобщает паттерн на основе этих примеров. Метод используют, когда нет возможности или смысла создавать отдельный датасет для задачи. Важно не путать few-shot с классическим обучением нейросетей, где требуется большое количество размеченных данных.

GAN (Generative Adversarial Network) — архитектура с двумя нейронными сетями: генератор создаёт новые данные, а дискриминатор отличает настоящие данные от сгенерированных. GAN впервые позволили получать качественные синтетические изображения. В отличие от диффузионных моделей, здесь обучение строится на конкуренции сетей.

Gemini называют мультимодальной LLM от Google DeepMind, способной обрабатывать текст, изображения, таблицы и другие типы данных. Линейка моделей включает Flash (для быстрого вывода), Pro (баланс скорости и качества) и Ultra (наиболее функциональная версия). Gemini тесно интегрирована с Google Workspace, что позволяет использовать её в Gmail, Docs и других сервисах Google. Мультимодальность отличает Gemini от многих других LLM, сфокусированных только на тексте.

GitHub Copilot — AI-помощник для программистов, который интегрируется в редакторы кода и подсказывает продолжения строк, генерирует функции, документацию и тесты. Работает внутри сред разработки вроде VS Code и JetBrains, позволяя общаться с ассистентом через чат по коду проекта. Copilot не заменяет программиста, а ускоряет повседневные задачи.

Google и Google DeepMind — компании, разрабатывающие языковые и мультимодальные модели семейства Gemini, а также интегрирующие AI-функции в продукты Поиск, Android и Workspace. В 2017 году исследователи Google опубликовали статью о трансформере, ставшем основой современных языковых моделей. Google DeepMind занимается фундаментальными исследованиями и запуском новых архитектур.

GPT (Generative Pre-trained Transformer) — серия авторегрессионных языковых моделей, разработанных OpenAI. Эти модели обучают на больших объемах текстов, чтобы предсказывать следующий токен в последовательности. GPT лежит в основе таких продуктов, как ChatGPT. Часто путают саму архитектуру трансформера с конкретной реализацией GPT — это не одно и то же.

Jailbreak называют набором техник, которые позволяют обойти защитные ограничения AI-модели с помощью специально составленных промптов. Такие обходы угрожают безопасности AI-продуктов, так как могут открыть доступ к скрытым функциям или нарушить запреты. Jailbreak отличается от ошибок в коде — он эксплуатирует особенности понимания языка самой моделью.

KV-кэш — это архитектурная оптимизация, используемая в больших языковых моделях для ускорения инференса. Она хранит промежуточные значения (Key-Value) для уже обработанных токенов, чтобы не вычислять их повторно при генерации очередного токена. Такая схема значительно уменьшает задержку и стоимость генерации длинных последовательностей. Иногда ошибочно полагают, что KV-кэш увеличивает размер контекстного окна, но он только ускоряет работу с уже обработанным контекстом.

LLM (Large Language Model) — это нейросетевая модель, обученная на огромных корпусах текстов для понимания, генерации и анализа текста на человеческом языке. Такие модели решают задачи перевода, суммаризации, написания кода, генерации ответов и других видов работы с языком. В отличие от простых чат-ботов, LLM способны оперировать сложным контекстом и поддерживать общение на разных языках. Важно не путать LLM с узкоспециализированными ИИ: LLM универсальны и работают с широким спектром задач.

LoRA (Low-Rank Adaptation) называют подходом к дообучению больших языковых моделей, который замораживает основную массу весов и добавляет небольшие обучаемые матрицы. Такой метод экономит память и ускоряет дообучение, его можно реализовать даже на домашних видеокартах. В отличие от полного дообучения, LoRA почти не меняет основную структуру модели.

MCP (Model Context Protocol) — это открытый протокол, разработанный Anthropic для стандартизации связи AI-моделей с внешними источниками данных и инструментами. MCP описывает, как агент может запрашивать и получать информацию или вызывать сервисы через общий интерфейс. Протокол не заменяет API, а дополняет его, определяя формат взаимодействия между агентом и внешними системами.

MoE (Mixture of Experts) — архитектура нейросети, где при обработке каждого токена активируется лишь часть специализированных «экспертных» слоёв. Такой подход позволяет увеличивать общее число параметров модели без соответствующего роста затрат на инференс. MoE применяется, например, в GPT-4 и Mixtral. Важно не путать MoE с полностью распределёнными архитектурами — здесь эксперты включаются избирательно.

NLP (Natural Language Processing) называют область искусственного интеллекта, которая занимается обработкой и анализом человеческого языка: пониманием, генерацией, переводом, классификацией текстов. Крупные языковые модели (LLM) объединили множество задач NLP в одной архитектуре. Не всякая работа с текстом — NLP; простое сопоставление ключевых слов к NLP не относится.

OpenAI — американская исследовательская компания в области искусственного интеллекта, создатель моделей GPT и чат-ассистента ChatGPT. Компания основана в 2015 году, а с 2019 года сотрудничает с Microsoft: обучение и запуск моделей происходит на облачной платформе Azure. OpenAI выпускает инструменты для пользователей и API для разработчиков.

Open Source AI — это искусственный интеллект, чьи модели и веса полностью опубликованы для свободного доступа и использования. Примеры: Llama 3, Mistral, Qwen, Gemma. Открытые модели можно запускать на локальных компьютерах, модифицировать и дообучать без ограничений лицензии крупных вендоров. Не стоит путать open source AI с «бесплатным API» — открытость касается именно кода и весов.

Prompt Engineering называют дисциплину создания эффективных инструкций для больших языковых моделей (LLM). Она включает техники, такие как chain-of-thought, few-shot обучение, ролевые инструкции и структурированный вывод, чтобы управлять поведением модели и повышать качество ответов. Эта практика отличается от простого написания вопросов тем, что требует понимания логики работы LLM и экспериментов с формулировками.

Prompt Injection — это тип атаки на AI-агентов, при котором вредоносные инструкции внедряются в обрабатываемые агентом данные (например, текст сайта или документа). Такие инструкции могут изменить поведение агента и заставить его выполнять действия, которых не ожидал разработчик. Prompt injection отличается от jailbreak тем, что атака скрыта в содержимом внешних данных, а не в открытом промпте пользователя.

QLoRA (Quantized LoRA) — это метод дообучения больших языковых моделей, который сочетает квантование модели до 4 бит и обучение только небольших LoRA-адаптеров. Такой подход позволяет дообучать модели с десятками миллиардов параметров на одной видеокарте, сохраняя эффективность по памяти. QLoRA не изменяет исходные веса базовой модели, а дорабатывает поведение через внешние адаптеры.

RAG (Retrieval-Augmented Generation) — архитектура, в которой генерация ответа LLM дополняется поиском информации в внешней базе знаний. Сначала система извлекает релевантные документы, затем передаёт их в контекст языковой модели для формирования финального ответа. Такой подход снижает вероятность ошибок и выдуманных фактов («галлюцинаций»), потому что модель опирается на актуальные данные. RAG используют, когда важно получать ответы с опорой на свежую и достоверную информацию.

Red Teaming — это систематическое тестирование AI-систем на уязвимости, включающее попытки обойти защиту, поиск вредоносных сценариев и оценку возможных рисков. Такие проверки проводят перед запуском моделей, чтобы выявить слабые места и предотвратить злоупотребления. Red Teaming не ограничивается техническим аудитом — команда имитирует реальные атаки злоумышленников.

RLHF (Reinforcement Learning from Human Feedback) — это подход к обучению нейросетей с подкреплением, где в качестве источника сигнала используются оценки людей. Модели учатся предсказывать ответы, которые пользователи сочли бы предпочтительными, что критично для выравнивания поведения диалоговых систем. Стоит отличать RLHF от классического обучения с подкреплением: здесь награда определяется не автоматически, а вручную или через сравнение вариантов.

RPA (Robotic Process Automation) называют автоматизацию офисных процессов через имитацию действий пользователя в графических интерфейсах: клики мышью, заполнение форм, копирование и вставка данных. AI расширяет классические RPA-решения анализом содержимого документов, пониманием текста и принятием сложных решений. RPA не подразумевает физические роботы — только цифровые рабочие процессы.

Stable Diffusion — открытая диффузионная модель для генерации изображений по текстовому описанию, созданная в 2022 году компанией Stability AI вместе с LMU Munich и Runway. Вес модели доступны для загрузки, что позволяет запускать её локально и дообучать под собственные задачи и стили. Stable Diffusion отличается открытостью исходного кода и поддержкой адаптации через LoRA.

Tool Use (Function Calling) — способность языковой модели вызывать внешние функции, API или сервисы для выполнения сложных задач вроде поиска, вычислений или доступа к базам данных. Этот механизм лежит в основе работы AI-агентов, которые комбинируют генерацию текста с реальными действиями. Не стоит путать Tool Use с простым расширением контекста: здесь модель инициирует вызовы и обрабатывает их результаты.

Top-P (Nucleus Sampling) — это способ семплирования, при котором языковая модель выбирает следующий токен из группы, суммарная вероятность которой достигает заданного порога P. Например, при Top-P=0.9 модель рассматривает только те токены, которые вместе набирают 90% вероятности, и игнорирует остальные варианты. Этот метод помогает снизить вероятность редких, неуместных слов, не делая генерацию слишком предсказуемой. В отличие от temperature, Top-P ограничивает не распределение вероятностей, а само множество вариантов.

Vibe Coding — это подход к разработке программного обеспечения, при котором искусственный интеллект генерирует основную часть кода на основе описаний на естественном языке. Такой метод позволяет людям без опыта программирования создавать приложения или автоматизировать процессы, формулируя задачи простыми словами. Vibe Coding отличается от классического кодинга тем, что не требует знания синтаксиса языков программирования и снижает порог входа в IT.

Zero-shot — это режим работы языковой модели, при котором задача формулируется только инструкцией, без примеров решений в промпте. Современные LLM могут выполнять многие задания в zero-shot, опираясь на своё предварительное обучение. Zero-shot отличается от few-shot тем, что модель не видит ни одного примера для конкретной задачи в текущем контексте.

Автоматизация — это процесс замены ручного труда технологиями для выполнения повторяющихся задач. Системы с AI выходят за пределы классических скриптов: они способны подстраиваться под изменяющиеся условия и нестандартные ситуации. Автоматизация не охватывает задачи, требующие творческого подхода или сложной этической оценки.

Автономизация — это процесс наделения AI-систем способностью самостоятельно принимать решения без участия человека. Существуют уровни автономности: от A1 (ассистент предлагает варианты) до A5 (AI полностью управляет процессом). Автономизация не означает отсутствие контроля: человек может оставаться в роли наблюдателя или вмешиваться на критических этапах.

Автономным агентом называют AI-систему, которая способна сама формулировать план и выполнять последовательность действий без постоянного контроля человека. Такой агент анализирует задачу, разбивает её на этапы, проверяет промежуточные результаты и корректирует стратегию по ходу выполнения. В отличие от ассистентов или copilot-режима, автономный агент может работать часами или даже сутками без вмешательства оператора.

Автономный бизнес называют моделью компании, где большинство операционных процессов (например, поддержка клиентов, закупки, отчётность) ведут AI-агенты или автоматизированные системы. Люди в такой компании задают цели и контролируют исключения, а не занимаются рутиной. Автономный бизнес отличается от классической автоматизации тем, что агенты принимают решения в заданных рамках.

Агентный рабочий процесс — это автоматизированная последовательность задач, которую выполняет AI-агент: от планирования и выбора инструментов до проверки и итерации результатов. Такой подход лежит в основе автономных AI-бизнесов и сложных сервисов без постоянного участия человека. Агентный процесс отличается от простых скриптов тем, что агент самостоятельно принимает решения на каждом этапе.

Адаптер (Adapter) — это лёгкий дополнительный модуль, который подключают к уже обученной модели для её специализации на новых задачах. При обучении адаптера основная модель остаётся замороженной, то есть её параметры не меняются, а дорабатывается только небольшой слой адаптера. Концепция похожа на LoRA, но отличается по технической реализации.

Алгоритм — это набор чётких, последовательных инструкций, предназначенных для решения конкретной задачи. В AI под алгоритмами понимают правила, по которым происходит обучение, оптимизация и инференс нейронных сетей. Алгоритм — не синоним программы: он описывает логику, а не конкретный код.

База знаний — это структурированное хранилище информации, к которому обращаются AI-системы при поиске ответов на вопросы пользователя. В архитектуре Retrieval-Augmented Generation (RAG) базу знаний часто реализуют как векторную базу данных с текстами или документами, относящимися к деятельности компании. База знаний отличается от графа знаний: первый хранит оригинальные тексты и документы, второй — связи между сущностями.

Бенчмарк — это стандартизированный тест или набор задач для объективной оценки качества AI-моделей. Бенчмарки вроде MMLU, HumanEval, MATH, GSM8K часто проверяют навыки рассуждения, генерации или точности моделей на конкретных заданиях. Результаты на бенчмарках не всегда отражают реальную полезность модели в прикладных задачах.

Бизнес-процессом называют повторяющуюся последовательность действий, приводящую к конкретному результату для компании — например, обработка заказа или выдача кредита. AI-агенты могут брать на себя не отдельные шаги, а всю цепочку операций, от получения запроса до передачи результата. Бизнес-процесс отличается от отдельных задач тем, что включает полный цикл и несколько ролей.

Вебхук (Webhook) — это механизм, при котором сервер отправляет HTTP-запрос сторонней системе при наступлении определённого события. Такой способ уведомлений ускоряет интеграцию: внешняя система сразу узнаёт о новых данных или действиях. В AI-агентах вебхуки часто связывают чат-бота с CRM или автоматизируют задачи между сервисами. Вебхуки отличаются от обычных API тем, что инициатор — сервер, а не клиент.

Векторная БД — это база данных, оптимизированная для хранения и быстрого поиска по эмбеддингам, то есть числовым векторам. Такие базы используются во всех RAG-системах и семантическом поиске. Векторная БД отличается от обычных тем, что ищет не по ключам или строкам, а по близости эмбеддингов в пространстве. Примеры — Pinecone, Weaviate, Chroma, pgvector.

Виртуальный ассистент — это программа на базе искусственного интеллекта, которая выполняет задачи по текстовым или голосовым инструкциям пользователя. В последние годы ассистенты эволюционировали от Siri и Alexa к решениям на основе больших языковых моделей (LLM) вроде Claude или ChatGPT, которые умеют рассуждать и вести сложный диалог. В отличие от классических чат-ботов, современные ассистенты способны к многошаговым операциям и самостоятельному поиску информации.

Выравниванием (alignment) называют задачу настройки AI-систем так, чтобы их действия соответствовали целям, намерениям и ценностям людей. Этот процесс лежит в основе безопасности искусственного интеллекта: некорректное выравнивание может привести к непредсказуемым или опасным результатам. Термин отличается от простого обучения правилам — он охватывает и глубокие, и этические аспекты поведения модели.

Галлюцинация (hallucination) — это когда искусственный интеллект генерирует убедительные, но ложные утверждения или вымышленные данные. Модель может «придумывать» факты, ссылки или цитаты, которых не существует в реальности. Такой эффект часто возникает даже при уверенной подаче информации. Галлюцинация не является ошибкой синтаксиса или перевода — это именно выдумка содержимого.

Гиперавтоматизация — это стратегия максимального автоматизированного охвата всех процессов в организации с помощью сочетания RPA, искусственного интеллекта, машинного обучения и аналитики. Термин предложила исследовательская компания Gartner для описания перехода от точечных автоматизаций к комплексной цифровой перестройке рабочих процессов. Гиперавтоматизация отличается от классической автоматизации масштабом и уровнем интеграции технологий.

Глубокое обучение (deep learning) — область машинного обучения, где используются многослойные нейронные сети для выявления сложных закономерностей в данных. С 2012 года глубокое обучение позволило добиться качественного скачка в распознавании речи, изображений, обработке текста и других задачах. Глубокое обучение требует больших объёмов данных и вычислительных ресурсов.

Граундинг (Grounding) — это процесс привязки ответов языковой модели к реальным данным и проверенным источникам. Основной метод граундинга — Retrieval-Augmented Generation (RAG), который позволяет использовать внешние базы знаний для повышения фактической точности и снижения количества галлюцинаций. Граундинг отличается от классического вывода модели, где источник данных не указывается явно.

Граф знаний (knowledge graph) — структурированная сеть, где вершины — сущности, а рёбра — их отношения. Такие графы используют для хранения и поиска фактов, связанных между собой. Граф знаний дополняет большие языковые модели, снижая количество ошибок при генерации фактов. Не стоит путать граф знаний с обычной базой данных — структура и взаимосвязи тут первичны.

Диффузионная модель (diffusion model) — это генеративная архитектура, которая учится создавать новые данные, поэтапно «очищая» шум до осмысленного изображения или текста. Такие модели лежат в основе инструментов вроде DALL-E 3, Stable Diffusion и Midjourney. Они отличаются от GAN тем, что используют процесс постепенного восстановления данных, а не состязание двух сетей.

Длина контекста — это максимальное количество токенов, которое языковая модель может обработать за один запрос. Этот параметр задаёт предел объёма текста, который модель учитывает при генерации ответа или выполнении задачи. Важно: длина контекста не равна объёму всей обучающей информации, а ограничивает только текущий рабочий отрывок.

Дообучение (fine-tuning) — это процесс дополнительного обучения базовой LLM на специализированных данных, чтобы адаптировать модель под конкретную сферу или задачу. Например, модель можно дообучить на медицинских текстах для улучшения ответов по тематике здравоохранения. Этот подход требует пересчёта весов модели на новом наборе данных и отличается от подбора промптов, который не меняет параметры модели. Fine-tuning используют, когда нужна точная настройка под узкие задачи.

Интерпретируемость (Interpretability) — это свойство AI-модели, позволяющее человеку понять, как и почему она пришла к определённому выводу или ответу. Исследования, например Mechanistic Interpretability от Anthropic, нацелены на раскрытие внутренних связей и приёмов модели. Интерпретируемость отличается от прозрачности: прозрачная система не обязательно объяснима.

Инференс (inference) — процесс, при котором обученная модель применяет свои знания для генерации ответа или выполнения задачи. В отличие от обучения, инференс не меняет параметры модели, а только использует уже полученные знания. Большинство ресурсов AI-сервисов расходуется именно на инференс, а не на обучение. Иногда инференс путают с процессом обучения, но это разные этапы работы модели.

Квантизация — это метод уменьшения размера нейросетевых моделей за счёт снижения точности хранения весов, например, с формата float32 до int4. Такая техника позволяет сократить требования к памяти и ускорить инференс моделей, при этом качество обычно почти не страдает. Важно различать квантизацию и простое сжатие: квантизация изменяет именно разрядность весов, а не удаляет параметры.

Когнитивная автоматизация — это автоматизация задач, где требуется понимание контекста, анализ исключений и принятие решений, в отличие от сценариев, основанных только на правилах (RPA). AI-системы при когнитивной автоматизации читают документы, интерпретируют смысл, распознают нетипичные ситуации и могут учиться на новых примерах. Когнитивная автоматизация расширяет возможности RPA за счет применения языковых моделей и машинного обучения.

Коллапс модели называют процесс, при котором качество AI-системы снижается из-за обучения или дообучения на данных, сгенерированных другой моделью. Эта деградация возникает, если синтетические данные используются без контроля качества и отбора. Коллапс особенно опасен при массовом создании и повторном использовании синтетических текстов, так как ошибки искажений накапливаются.

Компьютерное зрение (computer vision) — раздел искусственного интеллекта, который решает задачи анализа изображений и видео: классификацию объектов, детекцию, сегментацию, распознавание текста (OCR). Современные мультимодальные LLM могут подключать модули компьютерного зрения для работы с картинками. Компьютерное зрение не охватывает обработку аудио или текста.

Контекстное окно — это максимальное количество токенов, которые языковая модель может обработать за один раз. В пределах контекстного окна модель учитывает всю последовательность текста для генерации ответа. Размер окна ограничивает, сколько информации модель может держать в «памяти» без потери важного контекста. Контекстное окно не равно количеству слов: один токен может быть словом, частью слова или знаком.

Латентность — это время, которое проходит с момента отправки запроса языковой модели до появления первого токена ответа (метрика TTFT — Time to First Token). Этот показатель критичен для пользовательского опыта в чатах и AI-продуктах, так как влияет на ощущение скорости работы. На латентность влияют провайдер, нагрузки на сервис и размер модели. Латентность не равна общей длительности ответа: она измеряет только задержку старта вывода.

Механизм внимания (attention) — компонент архитектуры трансформера, который позволяет модели выделять наиболее важные части входного текста при обработке каждого токена. Благодаря этому механизм учитывает связи между словами независимо от их позиции в тексте. Внимание повышает точность генерации и понимания сложных контекстов. Не стоит путать механизм внимания с человеческим вниманием — это математическая операция.

Мультиагентную систему называют архитектурой, в которой несколько AI-агентов взаимодействуют между собой для решения сложных задач. Каждый агент может выполнять специализированную роль, а вся система работает параллельно и координируется для достижения общей цели. Мультиагентные системы часто применяют для задач, которые одному агенту не под силу. Не стоит путать мультиагентные системы с простым параллельным запуском одинаковых агентов без координации.

Мультимодальность (multimodal) означает способность искусственного интеллекта обрабатывать несколько типов данных одновременно: текст, изображения, звук, видео. Мультимодальные модели, такие как GPT-4o, Claude 3 и Gemini, могут анализировать и комбинировать информацию из разных источников. Мультимодальность расширяет область применения AI по сравнению с чисто текстовыми моделями.

Нейронная сеть — вычислительная модель, основанная на структуре биологического мозга: она состоит из слоёв взаимосвязанных узлов (искусственных нейронов). Нейронные сети лежат в основе всех современных систем машинного обучения, включая LLM. Не стоит путать нейронную сеть как концепцию с конкретными архитектурами вроде трансформеров.

Обучение в контексте (in-context learning, ICL) — способность больших языковых моделей учиться на примерах, приведённых прямо в промпте, без изменения внутренних параметров. Модель анализирует эти примеры и применяет выученную схему к новой задаче. ICL не аналогично классическому обучению модели — веса не обновляются.

Обучение с подкреплением (reinforcement learning, RL) — метод, при котором агент обучается действовать во взаимодействии со средой, получая награды или штрафы за свои действия. Для обучения языковых моделей по предпочтениям человека применяют RLHF — RL с подкреплением от человеческой обратной связи. В отличие от обучения с учителем, RL не требует заранее размеченных данных.

Обучение с учителем (supervised learning) — это процесс обучения модели на размеченных парах вход-выход, где правильный ответ заранее известен. Этот подход применяется, например, для распознавания спама или классификации изображений. В крупных языковых моделях этап supervised fine-tuning включает обучение на парах запрос-ответ, чтобы повысить релевантность генераций. Метод не подходит для задач, где нет явных правильных ответов.

Оркестрация мультиагентов — это процесс управления взаимодействием команды искусственных интеллект-агентов для решения сложной задачи. В оркестрации распределяют роли, определяют последовательность действий, организуют обмен промежуточными результатами и устраняют противоречия между агентами. Не стоит путать оркестрацию с самой мультиагентной системой: оркестрация — это именно координация внутри уже существующей команды агентов.

Параметр модели — числовое значение (вес) внутри нейронной сети, определяющее её поведение при обработке данных. В процессе обучения модель оптимизирует эти параметры для минимизации ошибок. Количество параметров часто определяет возможности и размер языковых моделей. Параметры — не одно и то же, что гиперпараметры, которые задаёт разработчик вручную.

Переобучение (overfitting) — ситуация, когда модель слишком хорошо запоминает обучающие данные и теряет способность обобщать на новые случаи. Такая модель показывает отличные результаты на тренировочном наборе, но проседает на тестовом. Переобучение — не временная проблема, а признак дисбаланса между сложностью модели и объёмом данных.

Позиционное кодирование — это метод, с помощью которого вектор эмбеддинга токена дополняется информацией о его позиции в последовательности. Такой подход нужен, потому что архитектура трансформера изначально не учитывает порядок слов, в отличие от рекуррентных сетей. Современные методы, например RoPE, позволяют эффективно масштабировать позиционное кодирование на длинные тексты. Не стоит путать позиционное кодирование с эмбеддингом самого токена — это отдельный компонент.

Предвзятость AI (bias) — систематические ошибки в работе моделей искусственного интеллекта, связанные с перекосами в обучающих данных. Такая предвзятость может вызывать дискриминацию по признакам пола, расы или возраста. Bias — отдельная от ошибки галлюцинации проблема, связанная именно с искажением данных, а не с их выдумыванием.

Предиктивная аналитика — это использование методов машинного обучения для прогнозирования будущих событий на основе анализа исторических данных. Такой подход позволяет, например, оценить вероятность ухода клиента, предсказать спрос на продукцию или спрогнозировать поломки оборудования. В отличие от простой статистики, предиктивная аналитика строит индивидуальные прогнозы с помощью обученных моделей.

Предобучение — это основной этап создания больших языковых моделей, когда нейросеть обучается на огромных текстовых корпусах предсказывать следующий токен в последовательности. Обычно этот этап требует больших вычислительных ресурсов и терабайт исходных данных. В отличие от дообучения, предобучение формирует базовые языковые знания модели, а не адаптирует её под конкретную задачу.

Промпт (prompt) — это текстовое задание, которое пользователь вводит для взаимодействия с языковой моделью, например в ChatGPT. Формулировка промпта определяет, какой результат и в каком формате выдаст модель. Промпт может включать инструкции, вопросы, примеры или списки требований. Важно отличать промпт от простого вопроса: промпт задаёт рамки и стиль ответа, а не только тему.

Пропускная способность — это количество токенов, которые языковая модель способна генерировать за одну секунду. Этот параметр важен для оценки производительности при пакетной обработке запросов или в высоконагруженных системах, где требуется быстрый вывод больших объёмов текста. Пропускная способность зависит от архитектуры модели, аппаратных ресурсов и настроек генерации. Не стоит путать этот термин с латентностью: пропускная способность описывает скорость вывода, а не задержку начала.

Рассуждение (reasoning) — способность искусственного интеллекта выполнять логические и последовательные многошаговые операции для решения задач. В современных языковых моделях reasoning реализуется через пошаговое объяснение или внутренние размышления перед генерацией финального ответа. Не всякая генерация текста включает reasoning: простое завершение предложения — не пример этого процесса.

Ретривером называют компонент систем генерации на основе поиска (RAG), который автоматически находит наиболее релевантные документы или фрагменты данных из базы знаний по заданному запросу. Чаще всего используют три типа ретриверов: sparse (например, BM25 — ищет совпадения по ключевым словам), dense (на основе эмбеддингов — сравнивает смысл текстов), а также гибридные решения. Ошибка — путать ретривер с генератором текста: ретривер только отбирает информацию, а не создает её.

Самовнимание (self-attention) — механизм в архитектуре трансформеров, при котором каждый токен анализирует свою связь со всеми остальными токенами последовательности для вычисления контекста. Такой подход позволяет учитывать дальние связи в тексте. Самовнимание требует значительных вычислительных ресурсов при длинных последовательностях — сложность растёт пропорционально квадрату их длины.

Семантический поиск — это технология поиска информации по смыслу, а не только по совпадению ключевых слов. В таких системах запрос и документы преобразуются в эмбеддинги (векторные представления), после чего производится сравнение по степени смысловой близости. Семантический поиск отличается от полнотекстового тем, что находит релевантные результаты даже при разных формулировках запроса и документа.

Синтетические данные называют искусственно сгенерированные AI-моделями наборы данных, которые используют для обучения или дообучения других моделей. Такой подход помогает быстро расширять обучающие выборки, когда ручная разметка слишком затратна. Важно отличать синтетические данные от аугментированных: синтетика создаётся полностью автоматически, а аугментация изменяет реальные данные.

Системный промпт — это набор инструкций, который задаёт роль, ограничения и контекст работы языковой модели до появления пользовательских сообщений. Такие промпты скрыты от конечного пользователя и формируют поведение модели на уровне всей сессии. Системный промпт отличается от обычного тем, что пользователь не может его изменить напрямую.

Снижение галлюцинаций — это совокупность методов, которые уменьшают вероятность того, что модель искусственного интеллекта выдумает несуществующие факты или ошибочные сведения. К таким подходам относят использование RAG, граундинг (grounding), установку параметра temperature=0, проверку фактов через внешние источники и обязательное добавление ссылок (citation enforcement). Снижение галлюцинаций не гарантирует абсолютную достоверность, а только уменьшает риск ошибок.

Спекулятивное декодирование — метод ускорения генерации текста, в котором быстрая малая модель предлагает несколько вариантов токенов, а большая проверяет их одновременно. Такой подход позволяет сократить время инференса без ухудшения итогового качества текста. Этот метод не изменяет структуру самой языковой модели.

Стриминг — это режим вывода языковых моделей, при котором сгенерированные токены отправляются пользователю по мере их появления, а не после завершения всей генерации. Такой подход уменьшает субъективную задержку и делает интерфейс похожим на печать текста в реальном времени. Стриминг особенно полезен для длинных ответов или чатов, где важна мгновенная реакция. При этом итоговое время генерации не уменьшается, меняется только восприятие пользователем.

Сэмплирование (sampling) — это метод выбора следующего токена при генерации текста языковой моделью на основе вероятностного распределения её предсказаний. Алгоритмы сэмплирования используют параметры вроде температуры, top-p или top-k для управления случайностью и разнообразием текста. В отличие от жадного декодирования, сэмплирование не всегда выбирает самый вероятный токен.

Температура — это параметр генерации текста в языковых моделях, определяющий степень случайности при выборе следующего токена. При температуре 0 модель всегда выбирает наиболее вероятный вариант, а при температуре ближе к 2 — выдаёт более разнообразные и креативные ответы. Температуру используют для регулировки баланса между точностью и креативностью вывода. Иногда ошибочно считают, что высокая температура гарантирует лучшую оригинальность: она лишь увеличивает вариативность, но не качество.

Токен — минимальная единица текста, с которой работает LLM: это может быть слово, часть слова или отдельный символ, включая знаки препинания. На английском один токен часто соответствует 3–4 буквам, на русском — примерно двум символам. Количество токенов определяет, сколько текста модель обработает за один запрос и влияет на стоимость использования через API. Токен не всегда равен отдельному слову: одна фраза может разбиваться на несколько токенов.

Токенизация — процесс разбиения текста на элементы (токены), которые могут быть словами, частями слов или символами, перед подачей в языковую модель. Алгоритмы типа BPE и WordPiece определяют, как именно текст разбивается на токены. Неправильная токенизация может привести к ошибкам при обработке текста или потере смысла.

Трансформацией бизнеса называют комплексное изменение компании через внедрение цифровых технологий, включая искусственный интеллект. Такой процесс затрагивает не только автоматизацию операций, но и новые бизнес-модели, а также требует изменений в корпоративной культуре. Трансформация бизнеса шире, чем автоматизация, поскольку включает перестройку всей структуры и подходов.

Трансформер (transformer) — архитектура нейросети, впервые описанная Google в 2017 году в статье «Attention is All You Need». Трансформеры легли в основу всех современных LLM и используют механизм внимания для анализа последовательности токенов в тексте. Эта архитектура позволяет эффективно обрабатывать длинные тексты и учитывать связи между удалёнными словами. Трансформер отличается от рекуррентных сетей тем, что работает с текстом параллельно, а не последовательно.

Умным городом называют городскую среду, где IoT-устройства, искусственный интеллект и большие данные используются для оптимизации городской инфраструктуры. Такие системы управляют трафиком, энергопотреблением, безопасностью и муниципальными услугами, чтобы повысить комфорт и эффективность. Умный город отличается от обычной автоматизации комплексностью и интеграцией разных источников данных.

Фундаментальная модель (foundation model) — это большая нейросеть, обученная на огромном объёме разнообразных данных и пригодная для доработки под множество задач. Такие модели, как GPT-4o, Claude Opus и Gemini Ultra, используются как основа для создания чат-ботов, ассистентов и других AI-сервисов. Фундаментальная модель отличается от узкоспециализированных тем, что её можно адаптировать под новые задачи без обучения с нуля.

Цифровой двойник — это виртуальная копия физического объекта, процесса или системы, созданная для мониторинга, анализа и управления в реальном времени. AI-агенты могут использовать цифровые двойники для управления заводами, зданиями или транспортными сетями, моделируя различные сценарии и оперативно реагируя на изменения. Цифровой двойник отличается от простой 3D-модели тем, что связан с реальным объектом через данные и обновляется постоянно.

Чат-бот — это программа для автоматизации текстового или голосового общения между человеком и компьютером. Такие системы принимают запросы, анализируют их и формируют ответы, поддерживая диалог в удобной форме. Современные чат-боты, основанные на больших языковых моделях (LLM), умеют вести гибкое общение и справляться с широким спектром тем, что отличает их от скриптовых решений с жёсткими правилами.

Эмбеддинг (embedding) — это числовое векторное представление текста, слова или другого объекта в многомерном пространстве. Эмбеддинги позволяют сравнивать смысловую близость разных текстов: чем ближе вектора, тем похожее значение. Эмбеддинги часто используются для поиска, кластеризации и построения рекомендательных систем. Важно отличать эмбеддинг от обычного кодирования текста — тут учитывается именно смысловая, а не только формальная близость.

Эмерджентное поведение — это неожиданные и сложные способности, которые проявляются у больших языковых моделей, хотя их не было у меньших версий. Примеры включают логическое рассуждение, работу с аналогиями или элементы саморефлексии. Такие особенности трудно предсказать заранее, и они появляются только при определённом масштабе модели. Эмерджентное поведение не гарантировано даже для крупных моделей одного класса.

Эпоха AI — это период технологического развития, в котором искусственный интеллект внедрён во все сферы жизни: от образования до промышленности. Началом этой эпохи считают 2022 год, когда OpenAI выпустила ChatGPT и массовое использование LLM стало доступным широкой аудитории. Термин не охватывает время до появления генеративных моделей масштабов GPT-3 и GPT-4.

Этика AI — это раздел прикладной этики, который рассматривает моральные аспекты создания и использования искусственного интеллекта. Темы включают справедливость алгоритмов, прозрачность решений, защиту приватности, ответственность разработчиков и безопасность пользователей. Неправильно считать этику AI только вопросом соблюдения законов или технических стандартов.

Языковая модель — это статистическая модель, оценивающая вероятности появления слов в последовательности. Она обучается на больших текстовых корпусах, чтобы предсказывать следующее слово или фразу, учитывая контекст. Современные языковые модели с миллиардами параметров называются LLM и работают на архитектуре трансформеров.