Большие языковые модели: как работают LLM и что важно знать бизнесу

Что в статье

• Что такое LLM
• Как работает LLM
• Что умеют большие языковые модели
• Где LLM используют в бизнесе
• Как LLM может работать с данными компании
• Почему LLM может ошибаться
• Чем LLM отличается от нейросети, генеративного ИИ и чат-бота
• Как выбрать LLM для задач бизнеса
• Частые вопросы
• Главное о LLM

Что такое LLM

LLM, или large language model, — большая языковая модель. Это модель искусственного интеллекта, обученная на больших объемах данных и нацеленная на работу с естественным языком. Она может анализировать запросы, создавать и редактировать тексты, переводить, классифицировать информацию, делать выжимки из документов и выполнять другие задачи.

Упрощенно соотношение можно представить так:

Предпринимателю обычно не требуется разбираться во всей внутренней архитектуре нейросети. Важнее понимать, что умеет выбранная модель, с какими данными она может работать, насколько надежны ее ответы и как ее можно встроить в бизнес-процесс.

Как работает LLM

Языковая модель не хранит готовую базу ответов на все вопросы. Во время обучения она находит закономерности в больших объемах данных, а затем использует их, чтобы сформировать наиболее подходящее продолжение запроса.

Упрощенно процесс выглядит так:

1. В модель поступает запрос.
2. Текст разбивается на небольшие элементы — токены.
3. Модель анализирует токены и доступный ей контекст.
4. На основе параметров, сформированных во время обучения, определяет вероятное продолжение.
5. Последовательно генерирует новые токены и собирает из них ответ.

Например, если начать фразу «Доставка заказа займет три рабочих…», наиболее вероятным продолжением будет «дня», а не случайное слово. Современная LLM выполняет тот же принципиальный процесс на гораздо более сложном уровне: учитывает большой контекст и связи между множеством элементов текста.

Токен при этом не обязательно равен одному слову. Это может быть слово целиком, его часть, число, знак препинания или другой элемент текста. Поэтому тысяча слов и тысяча токенов — не одно и то же.

Большинство современных LLM основаны на архитектуре Transformer. Ее представили исследователи Google в работе «Attention Is All You Need» в 2017 году. Особенности этой архитектуры позволили моделям эффективнее учитывать взаимосвязи между элементами текста и работать с большими объемами данных.

Для использования LLM не нужно знать устройство Transformer на уровне разработчика. Но важно понимать базовую мысль: модель строит ответ исходя из запроса, переданного контекста и закономерностей, усвоенных во время обучения. Поэтому убедительно написанный текст еще не означает, что все факты в нем верны.

Что умеют большие языковые модели

Одна LLM может выполнять разные задачи. Это одно из главных отличий современных языковых моделей от узкоспециализированных алгоритмов.

В зависимости от конкретной модели и сервиса, с ее помощью можно:

• писать и редактировать тексты;
• сокращать длинные документы;
• переводить;
• отвечать на вопросы;
• классифицировать обращения;
• извлекать из текста нужные сведения;
• находить закономерности в неструктурированных данных;
• писать и анализировать программный код;
• формировать ответы на основании переданных документов.

Современные модели могут быть мультимодальными — работать не только с текстом. Например, актуальные модели ГигаЧата через API умеют использовать для генерации текстовые документы, изображения и аудиофайлы.

При этом набор возможностей зависит от конкретной модели. Одна может хорошо работать с длинными документами, другая — быстрее выполнять простые запросы, третья — лучше справляться со сложными инструкциями. Поэтому при выборе ИИ-решения важно смотреть не только на название модели.

От чего зависят возможности LLM

Две языковые модели могут заметно различаться по скорости, качеству ответов и способности работать с большими объемами информации. Несколько характеристик особенно важны при выборе решения для бизнеса.

Контекстное окно

Контекстное окно — объем информации, который модель может учитывать при обработке запроса. Обычно его измеряют в токенах.

В контекст могут входить инструкция, вопрос, предыдущая переписка, документы и другие данные. Если информации больше, чем способна принять модель, часть материалов придется убрать, сократить или обрабатывать другим способом.

Это важно, например, при анализе договоров, длинных отчетов или больших баз документов. В документации ГигаЧата прямо указано, что слишком большой файл может превысить доступный контекст модели.

Размер контекстного окна зависит от конкретной модели и со временем меняется, поэтому характеристику нужно проверять непосредственно перед подключением сервиса.

Токены

Токены показывают не только объем текста. При работе с моделями через API они могут использоваться и для расчета потребления сервиса.

Например, корпоративным клиентам ГигаЧата доступны пакеты токенов и вариант оплаты по фактическому использованию. Условия и тарифы зависят от сервиса и могут меняться.

Поэтому при массовой обработке документов или тысячах клиентских обращений важно оценивать не только качество ответов, но и объем запросов.

Параметры модели

Параметры — числовые значения, которые формируются во время обучения и определяют работу модели. У крупных моделей их может быть очень много.

Но больше параметров не означает автоматически «лучше для бизнеса». Для простой классификации писем мощная модель может оказаться избыточной. Более легкая модель может работать быстрее и обходиться дешевле.

Например, в линейке ГигаЧата модели также разделяются по сложности задач: Lite предназначена прежде всего для более простых сценариев, а Pro — для более сложных инструкций и комплексной работы с текстом.

Поэтому модель стоит выбирать под конкретную задачу, а не только по размеру или месту в рейтингах.

Где LLM используют в бизнесе

Большая языковая модель может стать отдельным рабочим инструментом или частью другого сервиса. Например, сотрудник может пользоваться готовым ИИ-помощником через чат, а компания — встроить LLM через API в CRM, базу знаний или внутреннюю систему.

Типовые сценарии выглядят так:

Как LLM может работать с данными компании

Универсальная модель не знает внутренние инструкции, ассортимент, договоры и другие данные конкретной компании. Чтобы использовать такую информацию, нужно передать ее модели или подключить к ней дополнительный источник данных.

Есть несколько основных способов: по промту, документу, RAG и путем файнтюнинга.

Для предпринимателя важно, что RAG позволяет использовать собственные и актуальные данные компании без необходимости заново обучать большую языковую модель.

Например, сотрудник спрашивает: «Сколько дней дается клиенту на возврат товара, по нашей внутренней политике?» Система находит нужный пункт документа, передает его модели, а LLM составляет понятный ответ.

Если требуется настроить модель на определенный тип поведения или задачи, может рассматриваться дополнительное обучение модели — файнтюнинг.

Например, интернет-магазин может дополнительно обучить модель на истории обращений покупателей, чтобы она автоматически относила сообщения к категориям «доставка», «возврат», «оплата» или «наличие товара».

Но во многих задачах достаточно готовой модели, понятной инструкции и корректно подключенных данных.

Почему LLM может ошибаться

LLM может уверенно сформулировать ответ, который выглядит логичным, но содержит неверные факты. Такие ошибки называют галлюцинациями.

Например, модель может придумать несуществующий источник, назвать неверную дату, приписать закону норму, которой в нем нет, неправильно посчитать сумму или смешать сведения из разных документов. Это особенно опасно при работе с юридической, финансовой, медицинской и другой информацией, где ошибка может иметь серьезные последствия.

Риски можно снизить. Например, передавать модели проверенные источники, ограничивать область ответа корпоративной базой знаний и использовать RAG. Такой подход помогает дополнить модель более актуальными и предметными данными. Но это тоже не гарантирует абсолютной точности: если система нашла неподходящий документ или модель неверно его интерпретировала, ошибка остается возможной.

Поэтому значимые результаты работы LLM необходимо проверять, а для критичных процессов заранее определять, на каком этапе должен вмешаться человек.

Чем LLM отличается от нейросети, генеративного ИИ и чат-бота

Понятия связаны между собой, но обозначают разные вещи.

Например, чат с ИИ — это пользовательский продукт. Внутри него может работать LLM, а кроме модели — поиск, база данных, система безопасности, инструменты для работы с файлами и другие компоненты.

Поэтому выражения «подключить LLM» и «подключить чат-бот» не всегда означают одну и ту же работу.

Как выбрать LLM для задач бизнеса

Бизнес может выбирать между разными LLM в зависимости от задачи. Например, в линейке ГигаЧата есть модели GigaChat 2 Lite (для простых и массовых операций), GigaChat 2 Pro (для более сложной работы с текстом) и GigaChat 2 Max (для наиболее ресурсоемких задач). У других разработчиков также есть собственные семейства LLM: например, GPT, Claude, Gemini и Mistral.

При выборе стоит проверить несколько характеристик.

• Подходит ли модель для вашей задачи. Для простых сценариев может хватить более быстрой и дешевой модели.
• Работа с данными. Важно, какой объем контекста (длинные документы, большая история диалога) поддерживает модель и можно ли подключать документы, базу знаний или RAG.
• Интеграция. Если модель нужно встроить в CRM, сайт или внутренний сервис, потребуется API.
• Стоимость и безопасность. Стоит заранее оценить расходы при реальном объеме запросов и проверить условия обработки корпоративных данных.

В итоге выбирать стоит не «лучшую LLM вообще», а решение, которое соответствует задаче по качеству, скорости, стоимости, работе с данными и допустимому уровню риска.

Частые вопросы

LLM и ГигаЧат — это одно и то же?

Не совсем. LLM — общее название больших языковых моделей. ГигаЧат — экосистема ИИ-сервисов и моделей Сбера: пользователь может работать с готовым сервисом GigaChat, а разработчики — подключать конкретные модели ГигаЧата через API.

LLM — это нейросеть?

Да, современные LLM относятся к нейросетевым моделям. Но не каждая нейросеть является LLM. Например, нейросеть может быть предназначена для распознавания объектов на изображениях или прогнозирования числовых показателей и не работать как большая языковая модель.

Есть ли российские LLM?

Да. В России развиваются собственные семейства языковых моделей. В частности, к ним относятся модели ГигаЧат и YandexGPT. Актуальные версии и доступные возможности меняются, поэтому конкретную модель лучше выбирать по действующей документации поставщика.

Может ли LLM работать с документами компании?

Да. Документ можно передать непосредственно в контекст, если это поддерживает сервис и позволяет объем данных. Для постоянной работы с большой базой знаний часто используют RAG: система сама находит нужные фрагменты документов и передает их модели.

Нужно ли бизнесу создавать собственную LLM?

Для большинства типовых задач малого бизнеса обучать большую языковую модель с нуля не требуется. Можно использовать готовую модель через ИИ-сервис или API, передавать ей инструкции и при необходимости подключать корпоративные данные.

Собственная разработка или дополнительное обучение становятся оправданными только тогда, когда этого требует конкретная задача и готовые решения не дают нужного результата.

Может ли LLM полностью заменить сотрудника?

LLM может автоматизировать отдельные операции, но результат зависит от задачи. Модель способна классифицировать сообщения, готовить черновики, искать информацию и анализировать документы, однако может ошибаться.

Поэтому важнее оценивать не профессию целиком, а конкретный бизнес-процесс: какие этапы можно автоматизировать, какие требуют проверки и где решение должен принимать человек.

Главное о LLM

• LLM — большая языковая модель, которая обучена работать с естественным языком и может выполнять разные задачи с текстом и другими данными.
• LLM — не синоним всего искусственного интеллекта. Это один из типов моделей, на базе которых создают ИИ-сервисы.
• Модель разбивает текст на токены и последовательно формирует ответ с учетом запроса и доступного контекста.
• Размер контекстного окна влияет на то, сколько информации модель может обработать одновременно.
• LLM может выдавать фактически неверные ответы, поэтому важные результаты необходимо проверять.
• При выборе модели стоит учитывать задачу, качество результата, объем контекста, способы интеграции, стоимость и требования к работе с данными.