Большая языковая модель (LLM)

Происхождение и история термина

Чтобы понять слово «большая», полезнее смотреть на устройство модели, чем искать единственное магическое число. В этой статье не вводится обязательный порог параметров: исторический размер конкретной системы не становится определением целого класса.

В 2017 году Vaswani и соавторы представили Transformer — архитектуру, в которой основную роль играет внимание, без рекуррентной и свёрточной основы предложенной ими модели. Рекуррентная схема обрабатывает последовательность через переходы от предыдущего состояния к следующему; Transformer дал другой способ связывать её части. Речь идёт об архитектурной вехе, а не об изобретении всех языковых моделей. ^[2]

В 2020 году Brown и соавторы описали GPT-3 с 175 миллиардами параметров и исследовали выполнение заданий по инструкции и нескольким примерам в запросе без обновления параметров во время этих испытаний. Это историческая характеристика GPT-3, а не описание всех моделей на октябрь 2026 года. ^[3]

В июле 2024 года NIST, Национальный институт стандартов и технологий США, опубликовал профиль рисков генеративного ИИ. В нём отдельно рассмотрены уверенно сформулированные ошибочные ответы. ^[4] История применения LLM поэтому включает не только развитие архитектуры, но и постановку вопроса: как отличать удобный текст от надёжного результата.

Суть и механизм

Текст превращается в токены

Компьютерная модель работает не с напечатанным абзацем как неделимым объектом. Токенизатор разбивает текст на единицы, которыми модель умеет оперировать. Токен может совпадать со словом, составлять его часть или быть отдельным символом. ^[6]

Учебная аналогия — набор деталей конструктора. Целое слово не обязательно лежит в одной коробке: его можно собрать из нескольких фрагментов. Это только объяснение принципа, не схема разбиения конкретного русского слова. Чтобы узнать фактическое количество токенов в задании, нужен токенизатор выбранной модели.

Яндекс в документации Yandex AI Studio указывает, что модели используют собственные токенизаторы, и один текст может давать разное число токенов. Там же описан токенизатор моделей Яндекса, оптимизированный для русского языка. ^[5] Поэтому универсальный пересчёт «одно слово равно одному токену» не подходит для сравнения объёма заданий.

Параметры и запрос выполняют разные роли

Параметры, или веса, — численные настройки модели; дообучение изменяет их на обучающих примерах. Напротив, в режиме few-shot из работы Brown и соавторов примеры предоставляются внутри запроса, но веса не обновляются. ^[3] Сам запрос часто называют промптом: это текст, который задаёт условия текущей работы.

Представим учебное задание: «Преврати сообщение в строку таблицы. Пример: “Встреча 5 мая” → “5 мая | встреча”. Теперь обработай: “Открытие 8 июня”». Пример показывает желаемую операцию и формат. Если ответ получился нужным, мы увидели успешное применение инструкции, но не доказали, что численные настройки модели изменились.

Для сравнения можно вообразить отдельный процесс настройки на коллекции пар «сообщение — правильная строка». В нём обучающая процедура действительно меняла бы параметры. Различие не в том, насколько хорошо составлен пример, а в том, выполнялось ли обновление весов. Поэтому исправление текста запроса и дообучение нельзя считать одним техническим действием.

Внимание связывает части последовательности

В Transformer внимание вычисляет, с каким весом использовать представления разных частей последовательности. В первичной работе результат описан как взвешенная сумма значений; несколько «голов» внимания выполняют такие преобразования параллельно. ^[2] Представление здесь — набор чисел, с которым модель продолжает вычисления, а не готовое словесное толкование.

Учебный пример: «Письмо лежало рядом с договором. Оно было подписано вчера». Чтобы разобрать второе предложение, важно связать «оно» с предыдущим текстом. Внимание помогает вычислять такие связи; это название математической операции, а не утверждение о человеческом сознании модели. Пример показывает задачу зависимости между словами, но не обещает, что любая LLM разрешит эту неоднозначность правильно.

Из вероятностей получается ответ

Языковая модель оценивает вероятности токенов или их последовательностей с учётом контекста — доступного окружающего текста. Приложение может выбирать продолжение по этим оценкам. ^[6] В варианте decoder-only генерация новых токенов опирается на уже имеющийся текст, включая ранее созданное продолжение. ^[1]

Учебная схема: после слов «На столе стоит» условная модель присвоила продолжению «чашка» вероятность 0,5, «лампа» — 0,3, всем остальным вариантам вместе — 0,2. Сумма равна единице, то есть 100%. Это вымышленные вероятности, не измерение реальной системы. Число 0,5 относится к выбору продолжения в заданном контексте; оно не означает, что на каком-то настоящем столе с вероятностью 50% стоит чашка.

Различие принципиально: правдоподобное продолжение не проверяет мир. NIST предупреждает, что генеративная система может уверенно выдавать ошибочное содержание, ложные объяснения и вымышленные ссылки. ^[4]

Виды и классификации

Google различает полный Transformer с двумя частями и варианты с одной из них. Encoder, или кодировщик, преобразует вход в численное представление; decoder, или декодировщик, формирует выход. ^[1]

Эта таблица описывает архитектуру, а не рейтинг полезности. Название семейства само по себе не отвечает, насколько хорошо система справится с документами определённой редакции.

Другое различие касается способа задания задачи. В работе GPT-3 zero-shot означает инструкцию без демонстраций, one-shot — с одной демонстрацией, few-shot — с несколькими. Во всех этих исследованных режимах примеры находятся в контексте, без обновления весов. ^[3] Эти слова полезны, когда нужно точно описать условия опыта, а не просто сказать «нейросеть научилась».

Как применяется на практике

Рассмотрим учебную редакцию, которая хочет извлекать из сообщений дату, событие и его статус. В исходном документе написано: «Совет рассмотрит проект 12 ноября». Правильная строка должна сохранить и дату, и будущее действие, и слово «проект». Строка «Совет принял решение 12 ноября» меняет факт сразу в двух местах.

В этой задаче можно оценить результат без суждений о красоте стиля. Редактор заранее готовит правильную строку и сравнивает с ней выход. Если исходник не называет дату, ответ «дата не указана» предпочтительнее придуманной даты: задача состоит в извлечении, а не дополнении сведений.

Другой учебный сценарий — варианты заголовка. Один вариант может быть короче и привлекательнее, но потерять условие «если проект одобрят». Тогда стилистическое улучшение оплачено изменением смысла. Такой пример показывает, почему творческое разнообразие и точность нужно оценивать отдельно, даже когда их проверяет один человек.

Полезно также различать модель и приложение вокруг неё. Для учебного сравнения выделим генерацию текста, поиск документов и передачу найденных фрагментов модели как три отдельные операции. Успех всей цепочки зависит не только от формулировки ответа: неверно выбранный документ уже меняет исходные условия. Это редакционная схема анализа системы, а не обещание, что поиск встроен в любую LLM.

Российская и международная документация позволяет увидеть разные стороны одной задачи, но не сравнить качество моделей по одному показателю.

Как измерить или проверить

Следующий протокол — редакционный учебный пример, не стандарт испытаний и не результат запуска модели. Он продолжает задачу извлечения дат и показывает, как получить показатель с понятными границами.

Заранее выберем десять документов. Для каждого запишем ожидаемые дату, событие и статус, а также допустимый ответ при отсутствии данных. Назовём документ обработанным верно, только если все обязательные сведения сохранены и ничего не добавлено. Это строгое правило: правильная дата при неверном статусе не даёт правильного документа.

Доля полностью верных документов = C / D × 100%.

Здесь C — число документов без ошибок по выбранному правилу, D — общее число проверенных документов. Обе величины измеряются в документах, результат — в процентах. Если восемь документов обработаны верно, в одном дата пропущена, а в другом выдумана, получаем 8 / 10 × 100% = 80%.

Это не «точность модели вообще». Показатель описывает десять конкретных документов, заданную инструкцию и выбранное правило. Более того, он скрывает различие между пропуском и выдумкой. Поэтому рядом полезно сохранить сами ошибки: их последствия и способы исправления могут отличаться.

Теперь предположим, что в документах всего двадцать дат. Если система правильно извлекла девятнадцать, доля найденных дат составит 19 / 20 × 100% = 95%. Полученные 80% и 95% не противоречат друг другу: в первом расчёте единица учёта — целый документ, во втором — дата. Сравнение систем теряет смысл, если у показателей одинаковая подпись, но разные знаменатели.

Для повторения опыта сохраняют исходники, инструкцию, название и версию модели, дату запуска и доступные настройки. При изменении инструкции проверяют весь исходный набор, а не только ранее неудачный случай. В учебном эксперименте это позволяет увидеть, не исправлена ли одна ошибка ценой другой.

Отдельно можно добавить документы, где нужных сведений нет, и противоречивые исходники. Их цель — проверить поведение на границе задачи, а не заставить систему угадывать. Для практического решения результаты коротких новостей нельзя автоматически переносить на длинные договоры, таблицы или сканы: это уже другие условия испытания.

Ошибки, ограничения и спорные вопросы

Убедительность объяснения не равна проверяемости. NIST отмечает риск вымышленных логических обоснований и цитирований. ^[4] В учебной задаче ссылка считается полезной лишь после того, как проверяющий открыл документ и нашёл в нём соответствующее утверждение. Перечень названий в конце ответа ещё не решает эту задачу.

Размер также не заменяет испытания. Успех исторического GPT-3 на определённых заданиях не даёт результата нашей редакции на её документах. Исследование Brown и соавторов само различает условия выполнения и обсуждает ограничения. ^[3] При выборе системы нужно знать не только число параметров, но и то, что именно считается правильным выходом.

Наконец, ручное исправление ответа улучшает конечный материал, но не является свидетельством улучшения модели. В учебном журнале стоит хранить отдельно машинный текст, правку и итог. Иначе качество работы редактора незаметно приписывается автоматической системе, и последующее сравнение становится недостоверным.

Частые вопросы

Связанные термины

• Промпт
• Промпт-инжиниринг
• Галлюцинации ИИ
• Генеративный ИИ и этика СМИ
• Google AI Overviews
• GEO (оптимизация под генеративный поиск)