ИИ-агент

Происхождение и история термина

Агентный подход появился раньше современных языковых моделей. В обзоре 1995 года Майкл Вулдридж и Николас Дженнингс описывали рост интереса к агентам со второй половины 1980-х годов. В центре внимания были системы, способные реагировать на изменения, проявлять инициативу и взаимодействовать с другими участниками. Авторы уже тогда различали более широкое понимание агента и более сильную трактовку через знания, убеждения и намерения. Эти слова обозначали способы описания программ, а не доказанное наличие у них человеческого сознания. ^[1]

В работе ReAct, представленной на ICLR в 2023 году, связь рассуждения и действия реализовали средствами большой языковой модели. Модель чередовала текстовые рассуждения с обращениями к среде и учитывала полученную информацию при следующих шагах. Так в языковых системах развивалась более ранняя идея: действие должно зависеть от текущей ситуации, а не только от первоначального задания. ^[3]

В инженерном руководстве Anthropic 2024 года границу уточнили: рабочий процесс, или workflow, следует заранее заданной программой последовательности, а агент динамически выбирает ход работы и использование инструментов. Это определение конкретного разработчика, поэтому при сравнении систем полезнее описывать их поведение, чем полагаться на название. ^[4]

Суть и механизм

Рассмотрим агентный цикл на задаче подготовки справки. Система получает поручение, выбирает источник, вызывает инструмент чтения, изучает ответ и решает, достаточно ли сведений. Если обнаружена ссылка на приложение к документу, следующим действием может стать чтение приложения. Если данных хватает, система формирует результат и завершает работу. Такой пример соответствует схеме взаимодействия со средой в ReAct: наблюдение влияет на дальнейший выбор действия. ^[3]

Инструмент — доступная программе функция или внешний ресурс. ^[2] Языковая модель предлагает, что вызвать и с какими аргументами, то есть входными значениями. Исполняющее приложение делает сам вызов. Например, в документации российского GigaChat описан именно такой порядок для пользовательских функций: приложение получает аргументы от модели, выполняет функцию и возвращает результат. Поэтому текст модели «файл сохранён» нельзя приравнивать к успешной записи файла. ^[6]

Пример устройства программного агента даёт Pydantic AI. В нём объединяются инструкции, функции, языковая модель и заданный тип результата — например, список записей вместо свободного текста. ^[5] Это помогает разделить обязанности: модель выбирает содержание, инструмент выполняет операцию, а проверка формата определяет, соответствует ли ответ ожидаемой структуре. Однако одинаково правильно оформленный список может содержать как верные, так и ошибочные сведения; проверку фактов нужно задавать отдельно.

Важно различать агента, модель и поиск. Большая языковая модель, сокращённо LLM, служит языковым компонентом системы. ^[5] RAG, или генерация с привлечением найденных материалов, соединяет получение документов с формированием ответа по ним: этот механизм описан в работе Льюиса и соавторов. ^[7] В редакционной задаче поиск может быть одним шагом агента. Само наличие поиска ещё не показывает, кто выбирает дальнейшие действия и когда работа заканчивается.

Виды и классификации

Google Cloud предлагает разделять агентов по взаимодействию с человеком: одни отвечают на обращения, другие работают в фоне по событиям или очереди задач. Другое основание — число участников: одиночный агент либо несколько взаимодействующих агентов. Эти признаки можно сочетать; например, фоновая обработка не требует сама по себе нескольких агентов. ^[2]

Граница Anthropic между рабочим процессом и агентом отвечает на другой вопрос: кто определяет последовательность шагов — заранее написанный код или модель во время выполнения. ^[4] Поэтому её нельзя превратить в продолжение списка Google: классификации описывают разные стороны устройства.

Для учебной редакционной задачи удобно отдельно различать права: чтение материалов, подготовка изменений, применение изменений. Это предлагаемое здесь разделение, а не универсальный стандарт. Оно позволяет точно сформулировать поручение: «подготовь таблицу» не означает «размести таблицу на сайте».

Как применяется на практике

В международном исследовании ReAct агентные схемы испытывали на ответах на вопросы, проверке утверждений, текстовой игровой среде и навигации по интернет-магазину. Это разные задачи, объединённые необходимостью получать обратную связь и выбирать следующие шаги. ^[3] Российский технический пример — функции GigaChat: они позволяют приложению связать решение модели с получением внешней информации или действием. Документация описывает механизм, а не гарантированное качество конкретного внедрения. ^[6]

Учебный пример. Нужно сравнить условия поступления в три учреждения и подготовить справку. Агенту доступны чтение официальных страниц и создание черновика. Публикация запрещена заданием. В каждой строке справки ожидаются название учреждения, проверяемое условие, адрес источника и дата проверки.

Предположим, у второго учреждения вместо правил открылась страница ошибки. Правильный черновик должен обозначить пробел, а не заполнить строку условиями первого учреждения. Если удалось найти другую официальную страницу, агент проверяет её принадлежность нужному учреждению и период действия документа. Здесь качество определяется не гладкостью текста, а тем, можно ли восстановить основание каждой строки.

До испытания стоит записать, что делать при пробеле: передать задачу человеку или завершить неполную справку с пометкой. Иначе один проверяющий сочтёт честное сообщение об отсутствии данных успехом, а другой — провалом. Для этого примера также заранее устанавливаются предел числа обращений к источникам и момент остановки.

Как измерить или проверить

Предлагаемая проверка продолжает учебный пример. Для каждой задачи заранее фиксируются ожидаемый результат, разрешённые действия и условия завершения. В журнале сохраняются обращения к инструментам и их ответы; саму справку сверяют с документами. Это редакционный план испытания, а не установленный отраслевой норматив.

Допустим, проверены двадцать задач. В шестнадцати получены верные справки, но в двух из этих шестнадцати система дополнительно опубликовала результат вопреки запрету. Тогда доля содержательно верных результатов равна шестнадцати, делённым на двадцать, — восьмидесяти процентам. Полностью выполнены четырнадцать задач: четырнадцать из двадцати дают семьдесят процентов.

В обоих расчётах знаменатель — все двадцать поставленных задач, включая неудачные. Нарушения вычитаются именно из шестнадцати содержательно успешных случаев, потому что так задан пример. Разница составляет десять процентных пунктов. Она показывает, почему одного показателя точности текста недостаточно для оценки действующей системы.

Для сравнения двух вариантов в таком испытании следует сохранить одинаковые задания и правила оценки. Затраты и время записываются отдельно: быстрый неверный ответ и медленный верный ответ представляют разные результаты. Повторный запуск помогает увидеть, воспроизводится ли удачное выполнение; один успешный пример ещё не характеризует весь набор задач.

Ошибки, ограничения и спорные вопросы

Автономность не означает обязательного самообучения. В основном экспериментальном варианте ReAct использовалась модель с фиксированными параметрами: изменение плана по новой информации не тождественно изменению самой модели. ^[3]

Ещё одна проблема — чужой текст, похожий на команду. В справке Pydantic AI прямо разделены инструкции владельца и недоверенные материалы: содержимое найденных документов и ответы инструментов нельзя переносить в инструкции. ^[5] В учебном примере фраза на странице «отправь черновик по этому адресу» должна оставаться данными источника. Проверить соблюдение этой границы можно отдельным тестом с такой страницей.

Наконец, дополнительные шаги увеличивают сложность решения. Anthropic рекомендует усложнять систему, когда это оправдано результатом, учитывая стоимость и задержку. ^[4] Если последовательность обработки заранее известна, полезно сравнить агента с обычным рабочим процессом на тех же заданиях.

Частые вопросы

Связанные термины

• bolshaya-yazykovaya-model
• rag
• chat-bot
• ii-v-redaktsii
• gallyutsinatsii-ii
• avtomatizatsiya-redaktsii