Амнезия ИИ-агентов: эксперт нашел лекарство

ИИ-исследователь под псевдонимом codila объяснил, почему ИИ-агент «страдает амнезией» и как это исправить. По его словам, агенту нужны сразу две вещи: циклы, чтобы думать, и графы, чтобы помнить.

Именно нехватка памяти, как отмечает исследователь, мешает одиночному агенту доводить сложные задачи до конца. Лекарством эксперт называет особую архитектуру, при которой слабая модель обходит более сильную без нее.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

Почему агент все забывает

Корень проблемы codila видит в устройстве одиночного цикла. Цикл — это один круг улучшения: агент пробует, проверяет результат, вносит правку и повторяет.

Такой цикл дает агенту способность думать, но не помнить. Как поясняет исследователь, шаги выстраиваются в линию и ждут друг друга, пока контекстное окно не переполнится — и тогда агент забывает, что вообще делал.

Есть у одиночного цикла и второй изъян. Агент видит только собственную метрику и не замечает, когда сам показатель перестает отражать суть задачи.

Основой мышления агента при этом остаются четыре приема, которые сформулировал Эндрю Ын — американский ученый в области искусственного интеллекта, сооснователь Coursera и основатель образовательной компании DeepLearning.AI. Первый прием — рефлексия: агент пишет ответ, второй запрос его критикует, после чего агент переписывает результат.

Второй прием — использование инструментов: агенту дают поиск, запуск кода и доступ к API. Третий — планирование, когда задачу разбивают на шаги в формате JSON еще до запуска, а при сбое агент перестраивает план. Четвертый — работа команды агентов, где один пишет код, второй проверяет, а третий тестирует.

Силу такого подхода codila подкрепляет цифрами Ына. По его данным, GPT-3.5 в связке с агентным подходом решает тест HumanEval на 95,1%, тогда как более новая GPT-4 без такого подхода — на 67%.

Как графы лечат забывчивость

Лекарством от «амнезии» codila называет переход от цикла к графу. Граф — это сеть циклов, где отдельные циклы проверяют и поправляют друг друга, а не тянутся одной линией.

Память в такой сети устроена принципиально иначе. Агенты делятся общим состоянием через код координации и не пересылают друг другу целые переписки, поэтому промежуточные результаты не переполняют контекст. Как формулирует сам исследователь, агент забывает, а граф — нет.

Внедрить такой подход codila советует в два шага. Сначала стоит добавить один критикующий запрос после каждой генерации, что дает прирост качества на 10–30% за день работы. Затем все четыре приема связывают в единый граф.

Отдельно исследователь предупреждает о ловушке. Если проверяющий узел получает тот же контекст, что и исполнитель, он не проверяет работу, а лишь соглашается сам с собой — поэтому такому узлу нужен чистый контекст и опора на реальный сигнал, например на реально пройденный тест.

Честно называет codila и цену такого подхода. По его словам, граф оправдан не всегда: для мелких и линейных задач он только добавляет расходы и точки отказа, а реальную пользу приносит там, где работу можно распараллелить.

Итог сводится к смене роли. Тот, кто просто задает вопрос, остается на уровне запросов, тогда как тот, кто рисует граф, становится архитектором и запускает уже не одного агента, а целую команду.

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!

The post Амнезия ИИ-агентов: эксперт нашел лекарство appeared first on BeInCrypto.