Ранжирование

Происхождение и история термина

Из булева поиска — в ранжированный. Термин пришёл из теории информационного поиска (information retrieval, IR). Ранние системы работали по булевой модели: документ либо соответствует запросу, либо нет. В учебнике Маннинга, Рагхавана и Шютце подчёркивается, что на больших коллекциях совпадений оказывается слишком много, поэтому «it is essential for a search engine to rank-order the documents matching a query» — поисковой системе необходимо упорядочивать найденные документы ^{[13, гл. 6]}. Так появился ранжированный поиск (ranked retrieval): каждому документу присваивается числовая оценка относительно запроса, а выдача сортируется по ней. Классический способ такой оценки — взвешивание терминов tf-idf и векторная модель ^{[13, гл. 6]}.

Вероятностная линия. Параллельно развивалась вероятностная модель релевантности. По словам Робертсона и Сарагосы, эта схема «grounded in work done in the 1970–1980s» и привела к функции BM25 — по оценке авторов, одному из самых успешных алгоритмов текстового поиска, — и к её варианту BM25F, который они относят к самым успешным алгоритмам веб- и корпоративного поиска ^[15].

Веб-ранжирование и ссылки (1998). В статье Брина и Пейджа о прототипе Google текстовая IR-оценка документа была соединена со ссылочным анализом; авторы ссылаются на современные им работы о гипертекстовом поиске, в том числе Дж. Клейнберга [14, § 1.3.1]. Текстовая часть учитывала тип вхождения слова, число вхождений с быстрым насыщением и близость слов запроса друг к другу; затем, как пишут авторы, «the IR score is combined with PageRank to give a final rank to the document» [14, § 4.5.1]. PageRank они описали как объективную меру «цитируемости» страницы по ссылкам [14, § 2.1], а текст ссылок (анкоры) стали относить и к странице, на которую ссылка ведёт [14, § 2.2]. Подробно формула разобрана в статье PageRank. В русскоязычной научной литературе тот же поворот описывал А. В. Кириллов (2009): методы ранжирования на основе рейтинга цитирования он рассматривал как необходимое расширение классических методов поиска ^[20].

Машинное обучение ранжированию. Следующий шаг — признать, что сигналов слишком много, чтобы вручную подбирать их веса. Маннинг и соавторы предлагают рассматривать разные источники сигнала релевантности (косинусную меру, совпадение в заголовке и т. д.) как признаки в задаче обучения, а саму задачу — как порядковую регрессию [13, § 15.4; § 15.4.2]. Обзор Т.-Я. Лю (2009) систематизировал направление learning to rank (LTR) и разделил алгоритмы на три подхода — поточечный, попарный и списочный ^[16]. К. Бёрджес (Microsoft Research, 2010) описал линию RankNet → LambdaRank → LambdaMART: LambdaMART — версия LambdaRank на бустинге деревьев, а ансамбль таких моделей выиграл Track 1 конкурса Yahoo! Learning to Rank Challenge 2010 года ^[17].

Российская линия. В 2009 году Яндекс внедрил собственный метод машинного обучения Матрикснет, которым строилась формула ранжирования «с десятками тысяч коэффициентов»; формулу можно было настраивать отдельно для узких классов запросов ^[9]. Страницы Яндекса о Матрикснете и о машинном обучении в ранжировании сейчас помечены как архивные и «могут содержать устаревшую информацию» ^{[8; 9]}. По описанию разработчиков (2020), итоговая модель Яндекса, на вход которой подаются тысячи факторов, обучается с помощью CatBoost — открытой реализации градиентного бустинга над решающими деревьями ^[12].

Нейросети и переранжирование. В 2019 году Р. Ногейра и К. Чо показали, что модель BERT, дообученная на парах «запрос — фрагмент», заметно улучшает переранжирование: в их препринте прирост MRR@10 составил 27 % относительно прежнего лучшего результата на MS MARCO ^[18]. Это историческая цифра конкретного набора данных 2019 года, а не характеристика веб-поиска. В 2020 году Яндекс рассказал о трансформерной модели YATI (Yet Another Transformer with Improvements); руководитель группы нейросетевых технологий в поиске Яндекса назвал её внедрение «наиболее значимое событие в нашем поиске за последние 10 лет» ^[12]. Это оценка самой компании. Google в перечне своих систем ранжирования называет нейросетевые системы BERT, RankBrain, neural matching и passage ranking ^[1].

Как менялся смысл в SEO. В профессиональном жаргоне долго держалось представление о «формуле», которую можно подобрать снаружи, зная веса факторов. Сегодня поисковики описывают ранжирование как набор автоматически обучаемых и постоянно меняющихся моделей: Яндекс сообщает, что формулы ранжирования строятся машинным обучением и постоянно совершенствуются ^[10], а Google — о сотнях тысяч экспериментов в год ^[3]. Вывод: «вычислить формулу» по внешним наблюдениям в таких условиях нельзя.

Суть и механизм

Место ранжирования среди этапов поиска

Google описывает свою работу как три этапа — сканирование, индексирование и показ результатов, причём «not all pages make it through each stage» ^[2]. Ранжирование происходит на последнем этапе: когда пользователь вводит запрос, система ищет в индексе подходящие страницы и возвращает результаты, которые считает самыми качественными и релевантными ^[2]. Отсюда простое следствие: страница, которую не просканировали и не проиндексировали, в ранжировании не участвует (см. Сканирование (краулинг), Индексация, Поисковая система).

Признаки (факторы)

Модель ранжирования оценивает документ не «в целом», а через набор числовых признаков. В архивном описании Яндекса они делятся на статические — связанные с самой страницей (например, число ссылок на неё в интернете), и динамические — связанные одновременно с запросом и страницей (например, присутствие слов запроса в тексте, их количество и расположение) ^[8]. Google называет ключевые группы сигналов: смысл запроса, релевантность, качество, удобство использования и контекст ^[3]. Перечни и классификации факторов, в том числе Поведенческие факторы и Коммерческие факторы, разобраны в статье Факторы ранжирования.

Вес признаков не постоянен. Google прямо пишет: «The weight applied to each factor varies depending on the nature of your query» — например, для новостных запросов свежесть важнее, чем для словарных определений ^[3]. Яндекс ещё во времена Матрикснета настраивал формулу отдельно для узких классов запросов ^[9].

Как модель учится

Общая схема обучения описана и в учебнике, и в материалах поисковиков:

1. Собирается выборка запросов и документов.
2. Люди оценивают, насколько документ подходит к запросу. В Яндексе этим занимаются асессоры; из запросов и хороших ответов составляется обучающая выборка ^[8].
3. Алгоритм машинного обучения подбирает функцию, которая по признакам предсказывает эти оценки или правильный порядок документов ^{[8; 13, гл. 15.4]}.
4. Качество новых моделей проверяют офлайн-метриками и экспериментами ^{[3; 12]}.

Современные модели обучаются не только на оценках асессоров. Яндекс описывает для YATI многоступенчатое обучение: предобучение на предсказании клика по документу, затем дообучение на оценках толокеров, на оценках асессоров и на итоговой метрике качества ранжирования ^[12].

Роль оценщиков у Google сформулирована в руководстве для асессоров (Search Quality Rater Guidelines, редакция от 11.09.2025): оценки нужны, чтобы «measure how effectively search engines are working to deliver helpful content», и «No single rating can directly impact how a particular webpage, website, or result appears in Google Search» ^{[4, разд. 0.1]}. Иначе говоря, асессор не двигает конкретный сайт вверх или вниз: его оценки в совокупности служат для проверки и улучшения систем ^{[3; 4]}.

Многоэтапность: отбор кандидатов и переранжирование

Применить самую точную и самую дорогую модель ко всем документам индекса невозможно, поэтому в информационном поиске принята каскадная схема. В работе Ногейры и Чо она описана так: сначала стандартным механизмом, например BM25, отбирается большое число возможно релевантных документов (в их примере — тысяча), а затем каждый из них оценивается и переупорядочивается более ресурсоёмким методом — у них это BERT ^[18].

Запрос
  │
  ▼
Отбор кандидатов из индекса (быстрые модели, например BM25)
  │   сотни–тысячи документов
  ▼
Ранжирование (модель по множеству признаков, например бустинг деревьев)
  │
  ▼
Переранжирование верхней части (тяжёлые нейросетевые модели)
  │
  ▼
Формирование выдачи (разнообразие, дедупликация, спецблоки)

Обобщённая схема по принципу из ^[18] и описание систем Google ^[1]; число этапов и кандидатов у конкретных поисковиков в открытых источниках не раскрывается.

Тяжёлые модели приходится удешевлять. Яндекс рассказывает, что для YATI использует дистилляцию (внутри компании её называют «пародированием»): простая модель учится на предсказаниях сложной, что снижает сложность модели в разы при потере качества в пределах примерно 10 % ^[12]. Трансформеры при этом работают на графических ускорителях ^[12].

Ограничения на уровне выдачи

Итоговый список — не просто сортировка по одной оценке. Google описывает отдельные системы, которые меняют состав первой страницы: дедупликация оставляет только самый релевантный из очень похожих результатов, а система разнообразия сайтов приводит к тому, что Google «generally won't show more than two web page listings from the same site in our top results», за исключением особо релевантных случаев ^[1].

Модели ранжирования: от булевой к нейросетевой

Базовая формула: tf-idf

В учебнике Маннинга и соавторов вес термина t в документе d определяется так [13, § 6.2.1–6.2.2]:

• idf_t = log (N / df_t), где N — число документов в коллекции, df_t — число документов, содержащих термин t [13, § 6.2.1];
• tf-idf_{t,d} = tf_{t,d} × idf_t, где tf_{t,d} — частота термина t в документе d (число его вхождений) [13, § 6.2.2];
• Score(q, d) = Σ_{t∈q} tf-idf_{t,d} — простейшая оценка документа d по запросу q как сумма весов терминов запроса [13, § 6.2.2].

Вес максимален, когда термин много раз встречается в небольшом числе документов, и минимален, когда термин есть практически во всех документах [13, § 6.2.2]. Современные веб-модели используют подобные текстовые оценки лишь как часть признаков.

Виды и классификации

По подходу к обучению (классификация Т.-Я. Лю, 2009) ^[16]:

По экспериментам на наборе LETOR, приведённым в обзоре Лю, списочный подход выглядел наиболее эффективным ^[16].

По способу оценки документа (систематизация редакции на основе ^{[13; 14; 15; 16; 18]}): булевы, векторные, вероятностные, ссылочные, обучаемые (learning to rank) и нейросетевые модели — см. таблицу в разделе «Суть и механизм». В реальной поисковой системе эти модели не сменяют друг друга, а сосуществуют: текстовые и ссылочные оценки становятся признаками обучаемой модели ^{[12; 13, гл. 15.4]}.

По объекту ранжирования: веб-документы в основной выдаче; объекты вертикальных поисков (картинки, видео, новости, товары); рекламные объявления, порядок которых определяет аукцион по собственным правилам (см. Рекламный аукцион); элементы рекомендательных лент. Слово «ранжирование» используется во всех этих случаях, но цели и сигналы различаются, поэтому переносить выводы с одной области на другую нельзя.

По уровню применения сигналов (Google): системы ранжирования Google «are designed to work on the page level», но используют и сигналы уровня сайта; хорошие сигналы сайта не гарантируют высоких позиций каждой его странице, а плохие не означают, что все страницы будут ранжироваться низко ^[1].

Как применяется на практике

Яндекс

Официальные материалы Яндекса описывают ранжирование как полностью автоматический процесс: релевантность и качество страниц определяются формулами, а сами формулы строятся машинным обучением и постоянно совершенствуются ^[10]. Эволюция видна по публикациям компании: Матрикснет (2009) ^[9] → итоговая модель на CatBoost поверх тысяч факторов и трансформерная модель YATI (2020) ^[12]. Справка Яндекс Вебмастера предупреждает, что для улучшения качества поиска в алгоритмы ранжирования постоянно вносятся изменения, регулярно модернизируются алгоритмы на основе машинного обучения и обновляются факторы; кроме того, при ранжировании Яндекс может учитывать дополнительные сигналы о добросовестности компании ^[7]. Об отдельных алгоритмах см. Алгоритм «Палех», Алгоритм «Королёв», YATI.

Google

Google публикует перечень систем ранжирования (страница обновлена 10.12.2025) ^[1]. Фрагмент перечня:

Подробнее — в статьях Google Panda, Google Penguin, Google Core Update.

Google и Яндекс: сравнение официальных формулировок

Генеративные ответы

Ответы на базе ИИ дополняют, но не отменяют классическое ранжирование (основания приведены ниже ^{[5; 21]}). По Справке Яндекса, на запросы в Поиске может отвечать Алиса AI ^[21]. Порядок там описан так: нейросеть разбирает запрос, просматривает подходящие страницы из результатов Поиска и собирает из них ответ, в котором, как правило, есть ссылки на использованные страницы ^[21] (см. Алиса AI в Поиске). Google указывает, что для AI Overviews и AI Mode остаются актуальными обычные рекомендации по SEO и нет дополнительных требований для попадания в эти блоки ^[5]. Подробнее — Google AI Overviews.

Что из этого следует для SEO

Вывод на основе ^{[1; 2; 3; 7]}: поскольку модели обучаются и меняются постоянно, рационально работать не «под формулу», а над условиями участия в ранжировании и над соответствием страницы задаче пользователя. Это включает доступность страницы для сканирования и индексации ^[2], соответствие поисковому интенту и качество содержания ^[3]. Изменение позиций не всегда связано с действиями на сайте: Яндекс среди причин называет обновление алгоритмов и поисковой базы, изменения на других сайтах и изменение интересов пользователей ^[7] (см. Апдейт поисковой выдачи).

Как измерить или проверить

Со стороны поисковой системы: DCG и nDCG

Качество ранжирования измеряют метриками, которые учитывают и степень релевантности документов, и их место в списке. Стандартной стала схема накопленной выгоды К. Ярвелина и Я. Кекяляйнен (2002). Она исходит из двух наблюдений: «highly relevant documents are more valuable than marginally relevant documents» и «the greater the ranked position of a relevant document, the less valuable it is for the user» ^[19].

Формулы в варианте авторов ^[19], где G[i] — оценка релевантности документа на позиции i, а b — основание логарифма:

• накопленная выгода: CG^[1] = G^[1]; CG[i] = CG[i − 1] + G[i];
• дисконтированная накопленная выгода: DCG[i] = CG[i] при i < b; DCG[i] = DCG[i − 1] + G[i] / log_b(i) при i ≥ b;
• нормализация: вектор DCG делится поэлементно на DCG идеального списка, в котором документы стоят по убыванию оценок; значение 1 означает идеальное ранжирование ^[19]. Нормализованную метрику обычно называют nDCG (NDCG).

Здесь приведён исходный вариант формулы; в других работах встречаются иные варианты дисконта, поэтому, сравнивая значения nDCG, нужно знать, какая формула использована.

Учебный пример (оценки вымышлены). Пусть система выдала пять документов с оценками релевантности 3, 2, 3, 0, 1 (по шкале 0–3), b = 2.

nDCG@5 = 7,32 / 7,76 ≈ 0,94. Если поменять местами второй и третий документ, метрика вырастет: более релевантный документ поднимется выше.

Такой метрикой пользуются и поисковики: в статье о YATI качество моделей сравнивается в «% NDCG» — нормированном DCG относительно идеального ранжирования на внутреннем наборе данных Яндекса ^[12]. В задачах переранжирования используют и MRR (mean reciprocal rank) — например, MRR@10 в работе Ногейры и Чо ^[18].

Со стороны владельца сайта

Модель ранжирования снаружи не видна; владелец сайта наблюдает только её результат. В Яндекс Вебмастере отчёт «Аналитика поисковых запросов» показывает показы, клики, CTR, среднюю позицию сайта и среднюю позицию клика ^[11]; в Google Search Console аналогичные данные даёт отчёт об эффективности (Performance report) ^[6]. Методика расчёта средней позиции — в статьях Позиция в выдаче и Видимость сайта в поиске.

Ошибки, ограничения и спорные вопросы

• «Формулу можно вычислить». Поисковики описывают ранжирование как автоматически обучаемые и постоянно обновляемые модели ^{[7; 10]}. Списки «200 факторов», утечки и обратная разработка — отраслевые гипотезы, а не документация; доказательством устройства ранжирования они служить не могут.
• Корреляция не равна причинности. Исследования SEO-сервисов, сопоставляющие признаки страниц с их позициями, показывают связь, но не доказывают, что признак учитывается моделью.
• «Асессор понизил мой сайт». По руководству Google, отдельная оценка не может напрямую повлиять на показ страницы ^[4]. Санкции за нарушение правил — отдельная тема: Google описывает свои антиспам-системы и понижение сайтов с большим числом удалений, например по обоснованным запросам о нарушении авторских прав ^[1] (см. Ручные санкции, Фильтр поисковой системы, Пессимизация).
• «Ранжирование можно купить». Google: «nobody can pay us to do so» ^[3]; Яндекс: места в результатах поиска не продаются ^[10]. Реклама показывается отдельно от органических результатов и помечается ^[3].
• «Выдача одна для всех». Google учитывает местоположение, язык, устройство ^[2], а также историю поиска и настройки ^[3]; поэтому позиции у разных пользователей различаются.
• Офлайн-метрики и заявления компаний. nDCG и подобные метрики считаются по заранее размеченным оценкам и не тождественны удовлетворённости пользователей. Оценки вклада новых моделей — заявления самих компаний на их внутренних данных. Так, по словам разработчиков Яндекса, если отключить все остальные факторы и оставить только YATI, качество ранжирования по основной офлайн-метрике снизится лишь на 4–5 %, а внедрение модели названо «наиболее значимое событие в нашем поиске за последние 10 лет» ^[12]. Это внутренние офлайн-измерения 2020 года, а не независимая проверка.
• Устаревание сведений. Страницы Яндекса о Матрикснете и машинном обучении архивные ^{[8; 9]}, перечень систем Google периодически обновляется ^[1]. Любые утверждения об алгоритмах нужно датировать.

Частые вопросы

Связанные термины

• Факторы ранжирования
• Позиция в выдаче
• Поисковая выдача (SERP)
• Поисковая система
• Индексация
• Релевантность
• PageRank
• YATI
• Поведенческие факторы
• Апдейт поисковой выдачи