агент
agent
Модель, крутящаяся в цикле с инструментами. Она получает цель, а не вопрос, просит что-нибудь выполнить (прочитать файл, запустить команду, поискать), получает результат назад и решает, что делать дальше. Агентом её делает цикл; сама модель по-прежнему только предсказывает следующий токен.
Каждый шаг заново отправляет весь предыдущий разговор, поэтому расход токенов растёт как квадрат числа шагов, а не по прямой. Прогон агента на двадцать шагов может стоить дороже сотни сообщений в чате.
Скачок в возможностях, который приписывают новым моделям, — в основном это: не то, что модель лучше рассуждает, а то, что она вызывает инструменты достаточно надёжно, чтобы цикл прокрутился двадцать шагов и не сошёл с рельсов.