Большая языковая модель (LLM)

A large language model (LLM) — это категория моделей глубокого обучения, обученных на массивных текстовых датасетах, способных понимать, генерировать и обрабатывать естественный язык, а также решать широкий спектр языковых задач — от ответов на вопросы до многошаговых рассуждений.

Что означает термин

LLM — это AI-система, обученная на огромных объёмах текстовых данных (от миллиардов слов), которая выявляет языковые паттерны и структуры, что позволяет ей предсказывать и генерировать правдоподобный текст. Количество параметров (весов) у таких моделей может измеряться миллиардами и триллионами. Термин используется как для самих моделей, так и для продуктов и сервисов, построенных на их основе.

Как устроено

Архитектурной основой современных LLM является Transformer, разработанный Google в 2017 году. Модели обучаются на миллиардах единиц текстового и иного контента, а базовый механизм работы — предсказание следующего слова или последовательности слов на основе контекста запроса. Для дополнительной настройки применяется reinforcement learning from human feedback (RLHF): люди ранжируют выходы модели, и она обучается предпочитать более высоко оценённые ответы.

Где применяется

LLM используются для ответов на вопросы, суммаризации, перевода, составления черновиков писем и многошаговых рассуждений. К числу известных коммерческих продуктов на их основе относятся ChatGPT, Claude, Gemini, Microsoft Copilot и Meta AI. В корпоративных сценариях LLM применяются для обработки обращений клиентов: формирования персонализированных ответов, классификации входящих запросов по тематике и срочности, перевода обращений в реальном времени, генерации черновиков сообщений и автоматической суммаризации расшифровок диалогов.

Значение для бизнеса

LLM позволяют автоматизировать значительную часть текстовых операций, связанных с обработкой обращений: суммаризацию расшифровок звонков с выделением сути проблем и договорённостей, маршрутизацию запросов на нужную линию поддержки, перевод обращений на нужный язык без переключения между специалистами. Это снижает нагрузку на операторов и ускоряет обработку. Однако развёртывание требует существенных вычислительных ресурсов, инфраструктуры мониторинга качества и эскалации на оператора, а также контроля за качеством и безопасностью ответов.

Отличие от близких понятий

Термин «LLM» частично пересекается с понятием «foundation model» (базовая модель), но не тождественен ему: foundation model — более широкая категория предобученных моделей, подходящих для разных downstream-задач, тогда как LLM акцентирует языковую специализацию. Многие современные базовые модели являются мультимодальными и работают с изображениями, аудио и видео помимо текста. Также LLM не следует отождествлять с искусственным интеллектом в целом: LLM — это один из классов AI-систем, а не синоним всего ИИ.

История возникновения

Архитектурная основа современных LLM — Transformer — была разработана Google в 2017 году. Дальнейшее развитие связано с масштабированием моделей и объёмов обучающих данных, что позволило перейти от узкоспециализированных языковых моделей к универсальным системам, способным решать широкий спектр задач обработки естественного языка.