YATI

YATI

YATI — технология Яндекса на основе нейронных сетей, которая оценивает смысловую связь поискового запроса с текстом веб-страницы. Представленная в 2020 году, она помогает выбирать подходящие результаты поиска с учётом содержания текста.

В анонсе YaC 2020 Яндекс описал именно оценку связи запроса с документом и назвал основой технологии нейросети-трансформеры. [2] Документом здесь называется веб-страница; релевантность означает её соответствие задаче пользователя. [6] Это объясняет назначение YATI, а не обещает правильность каждого найденного ответа.

Кратко

  • YATI помогает оценивать содержание страницы относительно запроса. [2]
  • Трансформер связывает части текста при вычислении их представлений. [3]
  • Нейросетевая оценка участвует в ранжировании — упорядочении результатов поиска. [5]
  • Проверка полезности выдачи и получение внутреннего балла модели — разные задачи.

Происхождение и история термина

Яндекс публично представил YATI 25 ноября 2020 года на YaC 2020. [2] Разработчик Александр Готманов объяснил название как Yet Another Transformer (with Improvements), то есть «ещё один трансформер с улучшениями». Улучшения касались приспособления модели к поисковым задачам и её работы при большой вычислительной нагрузке. [1]

Научная предпосылка — архитектура Transformer, предложенная Васвани и соавторами в работе 2017 года. Авторы исследовали прежде всего машинный перевод, где из входного текста нужно получить текст на другом языке. Поэтому история трансформера начинается не с правила продвижения сайтов, а с устройства нейронной сети для обработки последовательностей. [3]

Следующий важный контекст — BERT, представленный исследователями Google в 2018 году. Название раскрывается как Bidirectional Encoder Representations from Transformers: представления текста, которые учитывают окружение слова с обеих сторон. В отличие от обучения отдельной модели с нуля для каждой задачи, подход сочетает предварительное обучение на текстах и последующую настройку на нужную задачу. [4]

Развитие YATI продолжилось предметной специализацией. В 2022 году Алексей Степанов описал CS YATI: вариант для программирования, где CS означает Computer Science — компьютерные науки. [5] Таким образом, в истории названия различаются исходная технология и её специализированное применение. Эти публикации описывают этапы развития, а не полную схему поиска на 2026 год.

Суть и механизм

Трансформер превращает элементы текста в числовые представления и связывает их механизмом внимания. Внимание — вычисление, при котором вклад одних элементов в представление другого получает разные веса. Это позволяет учитывать отношения между частями последовательности; слово «внимание» здесь обозначает математическую операцию, а не сознательное чтение. [3]

Понятный пример контекста даёт BERT. Одно и то же слово может иметь разные значения в зависимости от окружения; модель строит представление с учётом соседнего текста. При предварительном обучении BERT часть слов скрывают, а модель учится восстанавливать их по контексту. Так общая задача обработки языка подготавливает модель к дальнейшей настройке. [4]

В историческом описании YATI обучение начинается на поисковых текстах и включает предсказание кликов. Затем модель последовательно настраивают по человеческим оценкам и итоговому показателю качества. На вход поступают запрос, его расширения и выбранные фрагменты документа. Выбор фрагментов нужен из-за ограничений обработки длинной страницы; пропуск важного предложения способен повлиять на оценку. [1]

Для ускорения разработчики обучали более лёгкую модель воспроизводить результаты более тяжёлой и разделяли вычисления между частями системы. Это называется дистилляцией и разделением модели соответственно. Поэтому публичное название YATI обозначает технологическое решение, а не простую формулу, которую можно вычислить по числу слов в статье. [1]

Виды и классификации

Полезно различать три уровня: архитектуру, обученную модель и поисковую систему. Это учебная схема статьи. Архитектура задаёт устройство вычислений; обучение настраивает модель; поисковая система использует её результаты вместе с другими сигналами. В описании Яндекса 2022 года оценка YATI поступает в итоговую модель ранжирования на основе CatBoost. [3, 5]

Другой разрез — общая и предметная модель. CS YATI обучали на материалах и поисковых данных по программированию, а затем на оценках специалистов. Это подтверждённый пример специализации; из него не следует существование отдельной YATI для любой отрасли. [5]

Как применяется на практике

Исторические применения общего подхода различаются:

Яндекс Google
YATI: оценка связи запроса и документа; анонс 2020 года. [2] BERT: применение к ранжированию и выделенным ответам в поиске; анонс 2019 года. [7]

Google объяснял практическую ценность контекста на запросах, где предлог меняет направление поездки: сведения о поездке из одной страны в другую не равнозначны сведениям об обратном маршруте. Это пример из анонса, а не сравнительный тест качества Google и Яндекса. [7]

Рассмотрим учебный пример. Человек ищет «перенести контакты из приложения А в Б без потери номеров». Первая страница десять раз повторяет эту фразу, но предлагает только купить подписку. Вторая описывает, какой файл можно экспортировать, какие поля импортируются и как проверить сохранность номеров. Для поставленной учебной задачи вторая страница содержит ответ, а первая — нет. Число повторов здесь специально выбрано условно и не является порогом поискового алгоритма.

Полезность второй страницы можно объяснить без догадки о балле модели: читатель получает способ проверить результат. Редакционная рекомендация для такой инструкции — показать исходные условия, порядок действий и возможные потери данных. Если перенос не поддерживается, честное объяснение этого ограничения тоже помогает решить задачу. Эта рекомендация относится к качеству объяснения; место страницы в настоящей выдаче пример не предсказывает.

Как измерить или проверить

Для проверки поиска учебник Мэннинга, Рагхавана и Шютце предлагает тестовую коллекцию: документы, информационные потребности и оценки релевантности. Оценивают соответствие потребности, а не простое присутствие слов запроса. Один из показателей — Precision@k, доля релевантных документов среди первых k результатов. [6]

Формула при наличии k результатов и k больше нуля:

P@k=r/k.P@k = r/k.

Здесь r — количество результатов, признанных релевантными, k — количество просмотренных позиций. Знаменатель не равен числу всех полезных страниц в интернете. Показатель выражается долей от нуля до единицы либо процентом. [6]

Перед сравнением систем нужно выбрать одинаковый набор запросов и заранее определить k — сколько верхних результатов учитываются. Если выбрать k после просмотра удачной выдачи, получится необъективное сравнение. Учебный расчёт: среди первых пяти результатов полезны первый, третий и пятый. Получаем 3/5 = 0,6, или 60%. Если после изменения выдачи полезны четыре из пяти, результат равен 80%; разница составляет 20 процентных пунктов. Перестановка тех же трёх полезных документов внутри пятёрки оставит 60%: этот показатель не различает их порядок внутри выбранной группы.

Для воспроизводимости учебной проверки запишите запрос, ожидаемый ответ, выбранные пять страниц и основания каждого решения. Если два проверяющих расходятся, сначала разберите причину расхождения, а затем считайте результат. В истории CS YATI неспециалисты могли принять совпадение терминов за полезный ответ; привлечение асессоров-программистов помогло исправить оценку качества. Асессор — человек, оценивающий результаты поиска по заданию. [5]

Ошибки, ограничения и спорные вопросы

Precision@k чувствителен к набору запросов и количеству релевантных документов; по одному учебному примеру нельзя оценить весь поиск. [6] Тем более результат 60% не означает, что YATI присвоила странице балл 0,6: мы посчитали долю выбранных человеком полезных результатов, а не выход нейросети.

Контекстная модель также может ошибаться. В анонсе BERT для поиска Google прямо показывал нерешённые случаи понимания запросов. [7] Из наличия трансформера поэтому не следует ни безошибочность, ни одинаковый ответ разных систем. Для конкретной страницы полезно различать три вопроса: отвечает ли она на задачу, верны ли её сведения и какое место ей назначил поиск. Это разные предметы проверки.

Частые вопросы

Можно ли проверить балл YATI внешним сервисом?

В техническом описании 2020 года публичный интерфейс получения такого балла не описан. [1] У стороннего показателя нужно выяснить собственную методику и данные.

Нужно ли повторять запрос дословно?

Одинаковые слова сами по себе не делают документ релевантным: важна информационная потребность. [6] В учебном примере повторение фразы не заменило инструкцию.

YATI генерирует ответы пользователю?

YATI представлена как технология оценки связи текста с запросом. [2] Вопрос о генерации нового ответа требует отдельного описания системы; он не решается одним названием архитектуры.

Описание 2020 года остаётся актуальной схемой поиска?

Это историческое описание внедрения. Уже материал 2022 года раскрывает специализированную модель и её взаимодействие с другими компонентами. [5] Считать эти публикации исчерпывающей современной спецификацией было бы неверно.

Связанные термины

Источники

  1. Готманов А. Трансформеры в Поиске: как Яндекс применил тяжёлые нейросети для поиска по смыслу // Блог компании Яндекс на Хабре. 25.11.2020. URL: https://habr.com/ru/companies/yandex/articles/529658/ (дата обращения: 03.11.2026). ↑ а б в г
  2. Яндекс. Яндекс представляет YaC 2020. 25.11.2020. URL: https://yandex.ru/company/news/2020-11-25-1 (дата обращения: 03.11.2026). ↑ а б в г д
  3. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. Авторская версия arXiv:1706.03762v7, 2023. https://arxiv.org/html/1706.03762v7 (дата обращения: 03.11.2026). ↑ а б в г
  4. Devlin, J., & Chang, M.-W. (2018, November 2). Open sourcing BERT: State-of-the-art pre-training for natural language processing. Google Research. https://research.google/blog/open-sourcing-bert-state-of-the-art-pre-training-for-natural-language-processing/ (дата обращения: 03.11.2026). ↑ а б
  5. Степанов А. Как Яндекс перепридумал поиск для разработчиков // Блог компании Яндекс на Хабре. 2022. URL: https://habr.com/ru/companies/yandex/articles/688952/ (дата обращения: 03.11.2026). ↑ а б в г д е
  6. Manning, C. D., Raghavan, P., & Schütze, H. (2008). Introduction to Information Retrieval. Cambridge University Press. ISBN 978-0-521-86571-5. Гл. 8, §§8.1, 8.3–8.4. ↑ а б в г д
  7. Nayak, P. (2019, October 25). Understanding searches better than ever before. Google. https://blog.google/products-and-platforms/products/search/search-language-understanding-bert/ (дата обращения: 03.11.2026). ↑ а б в

Служебный блок

Версия
3.0
Факты проверены
Подготовка
Редакция Медиатрона
Публикация
утверждена владельцем издания 5 ноября 2026 г.

Редакция Медиатрона. Факты сверены с первоисточниками на дату проверки, публикация утверждена владельцем издания.

Нашли ошибку? info@mediatrone.ru