Алгоритм «Палех»

Происхождение и история

Название связано с Жар-птицей, изображаемой в палехской миниатюре. Её длинный хвост стал образом множества редких и уникальных запросов. Для каждого такого запроса могло не хватать истории переходов, хотя вместе они составляли заметную часть поисковой нагрузки. Это объяснение разработчика 2016 года, а не современная статистика спроса. ^[1]

Научной отправной точкой была работа Huang и соавторов 2013 года о Deep Structured Semantic Models, или DSSM: глубоких моделях, сопоставляющих запрос и документ через числовые представления текста. Яндекс прямо указывает на эту работу, но описывает собственные изменения; поэтому «Палех» нельзя считать простым переименованием исходной модели. ^{[2; 3]}

23 августа 2017 года Яндекс представил «Королёв». В анонсе новый этап противопоставлен «Палеху»: анализируется уже вся страница, а её представление вычисляется заранее при индексировании — подготовке данных страницы для поиска. Эти сообщения фиксируют развитие технологии; они не раскрывают все компоненты поиска Яндекса на 2026 год. ^[4]

Как сопоставляется смысл

Лексическое совпадение означает общие слова, семантическое — связь по смыслу. Например, условный запрос «починить зимние ботинки» и заголовок «Ремонт обуви» могут относиться к одной потребности, хотя слова различаются. Заголовок «Зимние ботинки: каталог» содержит больше совпадений, но обещает выбор товара, а не ремонт. Это учебное сравнение, не воспроизведение реальной выдачи.

Нейронная сеть преобразует текст в вектор — упорядоченный набор чисел. В DSSM несколько последовательных преобразований превращают исходные признаки текста в компактное представление, которое можно сравнить с представлением другого текста. Параметры преобразований подбираются при обучении: модель получает примеры запросов и документов и учится давать более высокую оценку подходящим парам. В исследовании использовались данные переходов пользователей. ^{[3, разделы 3.1–3.3]}

В техническом описании Яндекса вход включал слова, пары слов и тройки букв. Разработчики также изменили подбор отрицательных примеров — заголовков, которые должны получить низкую оценку. Из случайно выбранных заголовков брали тот, который сеть ошибочно считала наиболее подходящим, и использовали его для дальнейшего обучения. Такая трудная ошибка полезнее очевидно постороннего примера: она заставляет модель уточнять различия. Сам автор оговаривает, что случайный заголовок лишь с высокой вероятностью не подходит запросу. ^[2]

Это обучение модели на множестве примеров. Оно не означает, что для каждого нового редкого запроса сначала нужно накопить переходы именно по нему: задача как раз состоит в переносе обнаруженных связей на новые сочетания текста. ^{[1; 3]}

Что означает числовая близость

В DSSM используется косинусная близость: она сравнивает направления двух ненулевых векторов. Формула ниже раскрывает метод из исследования, а не итоговую формулу ранжирования Яндекса. ^{[3, формула 5]}

Здесь (q) — вектор запроса, (d) — вектор текста. В числителе складываются произведения соответствующих координат; в знаменателе перемножаются длины векторов. Деление позволяет сравнивать направление, а не просто величину чисел. Длина вычисляется как квадратный корень из суммы квадратов координат. Для нулевого вектора знаменатель равен нулю и такая близость не определена.

Возьмём явно учебные двумерные векторы: запрос (q=(1,0)), первый заголовок (a=(0{,}8;0{,}6)), второй (b=(0,1)). Их длины равны единице: для первого заголовка сумма квадратов равна 0,64 + 0,36 = 1. Скалярные произведения с запросом равны 0,8 и 0; после деления получаются те же оценки. По выбранной мере первый заголовок ближе.

Числа заданы вручную и не извлечены из «Палеха». Значение 0,8 здесь не означает 80% вероятности правильного ответа. Если заменить вектор запроса на (q=(2,0)), числитель и знаменатель одновременно удвоятся, а близость останется 0,8. Таким способом можно проверить нормировку; содержательную правильность представления текста этот расчёт не проверяет.

Чем «Палех» отличается от BERT

Для учебного сравнения полезно разделить модель сопоставления текстов, поисковое обновление и языковую модель общего назначения. Это редакционная классификация уровней описания, а не официальный перечень видов «Палеха».

В статье Devlin и соавторов о BERT описано обучение с использованием контекста слева и справа от слова. Одна из задач — восстановить скрытые элементы текста по окружению; затем модель дообучают для конкретной задачи. Это иная исследовательская постановка, чем сравнение отдельно полученных векторов в DSSM. Наличие нейронной сети в обоих случаях не делает архитектуры одинаковыми. ^{[5, разделы 3–3.2]}

Отдельный анонс Google от 25 октября 2019 года описывает применение BERT в поиске. Компания показывает, почему смысл может зависеть от предлога: путешественник едет из Бразилии в США, а не наоборот. Пример относится к поиску Google того периода; он не доказывает, что «Палех» использовал BERT или решал каждую такую задачу. ^[6]

Применение к работе над страницей

История «Палеха» помогает сформулировать редакционный вопрос: понятно ли, какую задачу решает страница, если пользователь выражает её другими словами? Яндекс в документе об оптимизации поддерживает улучшение содержания и удобства сайта и отдельно критикует тексты, перегруженные ключевыми словами. Это основание работать над ответом, но не обещание определённой позиции. ^[7]

В учебном примере мастерская действительно ремонтирует зимнюю обувь. Редактор собирает пять вопросов: какие повреждения исправляют, сколько это занимает, как узнать цену, принимают ли определённый материал и куда принести пару. Затем проверяет текст. Если описаны только виды ремонта, расширенный заголовок не добавит отсутствующие сведения о сроках и приёме заказа.

Предлагаемый рабочий порядок: сначала отметить, где содержится ответ на каждый вопрос; затем исправить пробелы; после этого сверить обещание заголовка с содержанием. Это редакционная проверка полезности страницы, не симулятор исторической нейросети.

Как проверить результат и избежать ошибок

Для такого задания можно считать долю покрытых вопросов. Если ответы найдены на четыре из пяти, покрытие равно 4 / 5 × 100% = 80%. В знаменателе — заранее выбранные пять вопросов, а не все возможные запросы пользователей. Повторение одного вопроса разными словами не должно незаметно увеличивать вес темы. При изменении набора сравнение требует пояснения: проверяется уже другое задание.

Отдельно сохраняются наблюдения о поиске: дата, формулировка запроса, показанная страница. Изменение позиции после редакторской правки само по себе не доказывает действие «Палеха». В источниках нет основания превращать авторский процент покрытия в показатель Яндекса или применять параметры модели 2016 года ко всей современной системе.

Частые вопросы

Связанные термины

• algoritm-korolev
• poiskovyy-intent
• dlinnyy-khvost-zaprosov
• relevantnost
• zagolovki-h1-h6