Project Swap: что эксперимент Anthropic показал о переговорах ИИ-агентов
24 сентября Anthropic описала Project Swap — внутренний эксперимент, где сотрудники поручили Claude-агентам подобрать обмен книгами на открытой площадке. Участники заранее оценивали варианты, а агенты представляли предпочтения, обсуждали обмен и предлагали сделки. Это не выпуск торгового продукта и не доказательство того, что агентам можно поручить покупки или договоры без контроля. Зато это редкий понятный пример того, как меняется задача, когда модель действует от чьего-то имени.
Что именно проверяли
Эксперимент был ограничен по масштабу и цели: люди хотели получить книгу, которая им понравится, а не заработать или заключить юридический договор. Каждый участник объяснил свои интересы и ранжировал ряд книг. Это позволило сравнивать предложение агента с заранее известными предпочтениями, а не оценивать результат по красивому диалогу. Такая подготовка важна: без критерия любая удачная на вид сделка превращается в впечатление, которое нельзя проверить.
Почему переговоры труднее обычного чата
В чате человек видит каждый ответ и сам принимает решение. Агент должен помнить цель, учитывать ограничения, замечать новый вариант и не выдавать желаемое за согласованное. В обмене книгой цена ошибки невелика. В закупке, бронировании, кадровом процессе или работе с клиентом она может означать лишнюю трату, раскрытие данных или обещание, которое компания не готова выполнить. Поэтому способность агента говорить убедительно не равна праву действовать автономно.
Практический вывод для команд
Первый агентный сценарий стоит строить не вокруг «сделай всё», а вокруг обратимой задачи: собрать варианты, сопоставить условия, подготовить черновик письма или предложить очередь действий. Пользователь должен видеть исходные данные, критерий выбора и точку, где требуется его подтверждение. Такой маршрут ближе к проверке ответа ИИ перед публикацией, чем к магической автоматизации: важен след решения, а не скорость первого ответа.
Какие правила нужны до запуска
Сначала задайте предел полномочий: что агент может читать, кому писать, какие суммы или условия запрещены, что считать конфликтом. Затем подготовьте несколько неудобных случаев: противоречивые требования, недостающие данные, попытку изменить первоначальную цель. Если агент не умеет остановиться и запросить человека, его пока рано подключать к внешнему действию. Полезный протокол включает журнал команд, итоговый выбор и причину отказа от альтернатив.
Что нельзя переносить из эксперимента напрямую
Книжный обмен не проверяет соблюдение закона, безопасность платежей, персональные данные и ответственность перед контрагентом. Он показывает поведение агентов в ограниченной социальной задаче, но не заменяет аудит для корпоративных процессов. Особенно осторожно стоит относиться к словам «торговля» и «переговоры»: в реальном бизнесе нужны владельцы процесса, правила эскалации и независимая проверка результата.
Как оценить пилот честно
Считайте не число действий, а долю вариантов, которые человек принял без существенной правки, число вовремя заданных уточняющих вопросов и ошибки, которые система остановила сама. Для первого месяца полезнее десять хорошо разобранных кейсов, чем сотня незаметных автодействий. О том, как разделять маршрут модели и контроль среды, читайте в сравнении песочницы и агентного API.
Что дальше
Project Swap интересен как публичная проверка не только способностей, но и границ агентного поведения. Рынок будет двигаться от отдельных чатов к сценариям, где система предлагает и выполняет действия. Зрелым станет не тот процесс, где агент сделал больше всего, а тот, где сотрудник может быстро понять: что было поручено, на каких данных сделан выбор и как отменить ошибочное действие.
Вопросы к следующему эксперименту
Для реальных рабочих сценариев одной оценки предпочтений недостаточно. Понадобится проверить, как агент ведёт себя при смене цели в процессе, при давлении на срок, при недоступном варианте и при попытке получить действие вне полномочий. Важно также сравнить, насколько часто человек принимает рекомендации без правки и понимает ли он основания выбора. Эти показатели полезнее общего ощущения, что диалог был удачным.
Командам не стоит ждать универсального агента. Гораздо практичнее взять один безопасный маршрут и проверить его на реальных исключениях. Тогда опыт из лабораторного обмена превращается не в рекламу автономности, а в конкретный урок: агент работает лучше там, где у него ясная цель, ограниченная среда и человек, который остаётся владельцем решения.
FAQ
Можно ли поручить агенту реальные переговоры? Только после узкого пилота с ограниченными правами и обязательным подтверждением человека. Что измерять в пилоте? Точность соответствия критериям, число эскалаций и стоимость исправления ошибки. Почему книга — полезный пример? В ней видна логика выбора и обмена, но риск для участника остаётся низким.