Вы поручаете coding agent исправить ошибку. Он читает репозиторий, находит нужный модуль, меняет код, запускает тесты и готовит pull request с предложением изменения. На первый взгляд задачу выполнил агент.

Пользователь поставил задачу. Разработчики агента определили, как он строит план и использует инструменты. Контекстом стали код и документация, а тесты задали критерии успеха. Модель выбрала последовательность шагов. Инженер принял или отклонил изменение. Если в рабочей среде (production) возникнут проблемы, разбираться с ними придётся организации.

Поэтому фраза «задачу выполнил агент» оставляет за кадром людей, правила и инструменты, благодаря которым изменение вообще стало возможным.

Агентность - это способность направлять ход событий: формулировать или принимать цель, выбирать действия, учитывать обратную связь и менять поведение с учётом условий и ограничений. Она редко принадлежит одному участнику целиком. В жизни, организации и программной системе агентность распределяется между людьми, правилами, инструментами и средой.

AI позволяет программам выполнять больше шагов самостоятельно. Но это не делает машину автором цели или ответственной за последствия. Поэтому на практике полезнее спросить не «есть ли у AI настоящая агентность?», а какую часть работы мы ему передали, чем ограничили его действия и кто по-прежнему может разобраться в происходящем, остановить выполнение и исправить результат?

Одно слово для разных вопросов

Английское agency переводят как «агентность», «субъектность» или просто «способность действовать». Ни один вариант не передаёт всех оттенков. В этой статье я буду использовать слово «агентность», а программу, которая выполняет задачу, называть агентом.

Разные дисциплины смотрят на агентность с разных сторон.

В обзоре философии действия Stanford Encyclopedia of Philosophy агентность в самом общем смысле определяют как способность действовать и реализацию этой способности. Дальше начинаются споры: достаточно ли целенаправленного поведения, нужно ли осознавать себя автором действия и какой уровень контроля позволяет считать действие своим.

При проектировании AI-систем не нужно выбирать единственно верное философское определение агентности. Важнее не смешивать несколько близких понятий:

• способность показывает, может ли участник достичь результата;
• автономность показывает, сколько шагов он выполняет без вмешательства;
• полномочия определяют, что ему разрешено делать;
• ответственность указывает, кто должен объяснить решение и исправить последствия;
• агентность показывает, кто задаёт направление, принимает решения и меняет их после обратной связи.

Система может справляться с задачей, но не иметь права её выполнять. Может получить широкие полномочия, оставаясь ненадёжной. Может действовать автономно, хотя цели, критерии успеха и доступ к среде полностью определены другими. За удобным словом «агент» часто скрываются разные сочетания этих свойств.

Агентность существует во времени

Наши действия опираются на прошлый опыт, представление о будущем и оценку текущей ситуации. Социологи Мустафа Эмирбайер и Энн Мише в статье What Is Agency? описали три связанные со временем стороны агентности:

1. Прошлое - привычки, опыт и знакомые способы действовать.
2. Будущее - способность представить несколько вариантов развития событий.
3. Настоящее - практическая оценка, какой вариант уместен в текущих обстоятельствах.

Это способ анализа, а не три последовательных этапа. На практике прошлый опыт, представление о будущем и оценка текущей ситуации переплетаются. Архитектор вспоминает прежние инциденты, рассматривает несколько вариантов системы и выбирает один с учётом бюджета и возможностей команды. Агент, меняющий код, тоже использует историю репозитория, строит план и корректирует его, когда тест завершается ошибкой. Внешне эти процессы похожи. Но остаются важные вопросы: кто поставил цель, кто понимает последствия и кто может пересмотреть не только способ решения, но и саму задачу.

Альберт Бандура в обзорной работе Social Cognitive Theory: An Agentic Perspective выделял у человеческой агентности намерение, предвидение, саморегуляцию и рефлексию. Важно не только начать действовать. Человек должен представить последствия, не отклоняться от цели, понимать причины своего выбора и оценивать полученный результат.

Поэтому фраза «я нажал кнопку, и что-то произошло» ещё не означает, что человек контролировал процесс. Он мог запустить систему, которую не понимает и не способен остановить. Возможна и обратная ситуация: человек не выполняет работу своими руками, но определяет цель, выбирает исполнителя, оценивает результат и меняет правила. Агентность не сводится к тому, кто физически выполнил больше шагов.

Ограничения не уничтожают действие

В социологии агентность рассматривают вместе со структурой: нормами, ролями, институтами, ресурсами и отношениями власти. Структура ограничивает одни действия, но делает возможными другие. Язык задаёт допустимые конструкции, благодаря которым люди понимают друг друга. Протокол запрещает произвольный формат, зато позволяет двум системам обмениваться данными. Ревью замедляет внесение изменений, но помогает согласовать их с другими участниками.

Поэтому Эмирбайер и Мише не рассматривают агента и структуру как противоположности. Агент опирается на уже существующие правила и способы действия, а своими повторяющимися решениями сохраняет или постепенно меняет их. Сегодняшний архитектурный компромисс завтра станет чьим-то ограничением. Иногда даже нашим собственным - у архитектуры хорошая память на временные решения.

В разработке это особенно заметно при сравнении greenfield и brownfield-систем. В пустом репозитории у команды и AI больше вариантов, но мало фактов о реальных пользователях, нагрузке и исключениях. В зрелой системе свободы меньше, зато есть контракты, тесты, история инцидентов и телеметрия. Эти ограничения не просто мешают изменениям. Они дают обратную связь, без которой трудно отличить полезное решение от рискованного эксперимента над рабочей системой.

Получается небольшой парадокс. В greenfield агент может выглядеть самостоятельнее, потому что система почти не ограничивает его решения. Но в зрелой brownfield-системе больше данных для осмысленного выбора. Агентность проявляется не в количестве доступных вариантов, а в способности понимать их последствия.

Личная, опосредованная и коллективная агентность

Бандура различал три способа человеческого действия:

• личная агентность - человек действует непосредственно;
• опосредованная агентность (proxy agency) - человек добивается результата через того, у кого есть необходимые знания, доступ или власть;
• коллективная агентность - люди координируются и получают результат, недоступный каждому по отдельности.

В IT мы постоянно действуем опосредованно и коллективно. Разработчик использует библиотеку, доверяет компилятору, запускает CI, то есть автоматическую сборку и проверки при каждом изменении, а эксплуатацию передаёт другой команде. Компания действует через сотрудников, процессы и программные системы. Требование «делать всё самому» не усилило бы агентность, а сделало бы большинство результатов недостижимыми.

AI-агента полезно рассматривать как новый инструмент опосредованной агентности. Это моя инженерная аналогия, а не утверждение Бандуры. С его помощью пользователь может исследовать большую кодовую базу, сравнить больше вариантов или выполнить длинную последовательность операций. Так AI расширяет его практические возможности.

Но у аналогии есть граница. Человек, которому мы делегируем работу, способен обсуждать смысл цели, иметь собственные интересы, отказаться по моральным причинам и принять ответственность. Современная AI-система может убедительно поддерживать такой разговор, но это не доказывает, что у неё есть собственные цели или моральный статус. Поэтому использование AI как посредника не делает его ответственным участником.

Важно также различать автономность и независимость. В теории самодетерминации Райана и Деси автономным считается действие, которое человек воспринимает как согласованное со своими мотивами и ценностями. Чужая помощь не обязательно уменьшает автономность. Она снижается, если человек перестаёт понимать или принимать цель и не может её пересмотреть.

Использование AI само по себе не делает нас менее самостоятельными. Важно другое: помогает ли инструмент достичь выбранной цели или незаметно подменяет исходный вопрос типовым ответом.

Что именно делает AI агентом

Термин «программный агент» (software agent) появился задолго до больших языковых моделей. В работе Intelligent Agents: Theory and Practice 1995 года Майкл Вулдридж и Николас Дженнингс выделили четыре свойства агента: автономность, реактивность, инициативность и способность взаимодействовать с другими участниками.

Большая языковая модель сама по себе обычно только преобразует входные данные в ответ. Агент появляется, когда модель включают в рабочий цикл: задают цель, добавляют контекст или память, дают инструменты для изменения среды и возвращают информацию о результате каждого действия. Один из ранних вариантов такого цикла - ReAct. В нём модель чередует рассуждение и действие, а затем корректирует план с учётом полученного результата.

цель → контекст и память → план → действие инструментом
           ↑                         ↓
           └──── корректировка ← наблюдение

вокруг цикла: полномочия, бюджет, правила и условие остановки

Coding agent получает доступ к поиску по репозиторию, редактору файлов, терминалу и системе контроля версий. Агенту поддержки понадобятся база знаний, система управления обращениями (CRM) и возможность отправить ответ. Инфраструктурному агенту доступны метрики, программный интерфейс (API) облака и право менять ресурсы. Одна и та же модель получает в этих системах совершенно разные полномочия и возможности.

Поэтому оценивать нужно не только модель, но и всю систему вокруг неё:

модель + инструкции + память + инструменты + полномочия
+ проверки + интерфейс человека + правила организации

Здесь важно не смешивать три разных свойства:

1. Операционная агентность. Система выбирает действия, использует инструменты и корректирует план. Это наблюдаемое инженерное свойство.
2. Субъективная агентность. Она означала бы, что система сама переживает намерение и ощущает себя автором действия. Целенаправленное поведение и фразы вроде «я решил» ещё не доказывают наличие такого внутреннего опыта.
3. Моральная агентность. Система понимает, почему действие допустимо или недопустимо, и может отвечать за последствия. Современную AI-систему нельзя считать ответственной вместо организации, разработчика или пользователя.

Можно уверенно говорить об операционной агентности и оставить вопрос о субъективном опыте открытым. При проектировании безопасной системы этого достаточно: полномочия следует выдавать с учётом проверенных возможностей и возможного ущерба, а не впечатления от разговора с AI.

Как измерять операционную агентность

По связному ответу легко решить, что агент понимает цель и знает, как её достичь. Но в реальной задаче ему нужно не потерять цель после десятков действий, заметить ошибку, исправить её и продолжить работу. Поэтому качество одного ответа мало говорит об операционной агентности.

Исследователи METR оценивают возможности AI-агентов с помощью временного горизонта задач. Для каждой задачи они определяют, сколько времени на неё понадобилось бы специалисту. Затем выясняют, с задачами какой длительности агент справляется в половине случаев. В тестовом наборе преобладали задачи по программированию, исследованиям и кибербезопасности. У новых моделей временной горизонт с 2019 года удваивался примерно каждые семь месяцев.

Это не закон развития AI и не прогноз для любой работы. Задачи в исследовании имели чёткие границы и проверяемый результат. Они были ближе к разработке ПО, чем к управлению людьми, выбору направления продукта или многомесячной работе внутри организации. Сам порог в 50% означает, что агент не справляется с половиной задач соответствующей длительности. Для конкретного рабочего процесса такой надёжности может быть совершенно недостаточно.

Авторы International AI Safety Report 2026 дают сдержанную оценку текущих возможностей. AI-агенты уже способны выполнять полезные задачи по разработке ПО без постоянного контроля со стороны человека. При этом они всё ещё допускают простые ошибки, сбиваются в длинных последовательностях действий и плохо справляются с неожиданными препятствиями. Их возможности быстро расширяются, но работают они пока нестабильно.

Высокая доля успешных решений на одном наборе тестов ещё не говорит, насколько агент полезен на практике. Авторы AI Agents That Matter отмечают, что при сравнении агентов часто не учитывают цену запуска и возможность повторить результат. Кроме того, агент может плохо переносить небольшие изменения условий или быть подогнан под конкретные тестовые задачи. Для реальной системы важны как минимум:

• вероятность завершить всю задачу, а не отдельный шаг;
• цена ошибки и возможность отката;
• стоимость успешного результата с учётом повторных попыток;
• устойчивость к изменению входных данных и среды;
• время, которое человек тратит на постановку задачи, проверку и исправление;
• полнота журналов, по которым можно понять причины действий агента.

Убедительный план ещё не означает, что агент выполнит задачу. На практике важно, сможет ли он придерживаться цели, замечать отклонения и менять план при неожиданном поведении системы.

AI может и расширять, и ослаблять человеческую агентность

AI-инструмент может расширить возможности человека, но при этом уменьшить его участие в принятии решений. Одно не исключает другого.

Когда агентность расширяется

AI помогает быстрее искать информацию, создавать прототипы и выполнять рутинную работу. Человек быстрее получает обратную связь, может рассмотреть больше вариантов и решить задачу, для которой ему прежде не хватало времени или специального навыка.

Авторы полевого исследования Generative AI at Work изучили поэтапное внедрение AI-помощника среди 5172 сотрудников поддержки. В среднем сотрудники стали решать на 15% больше обращений в час. Сильнее всего инструмент помог менее опытным работникам. Часть улучшений сохранялась, даже когда помощник ненадолго становился недоступен. Это позволяет предположить, что AI не только ускорял работу, но и помогал сотрудникам осваивать практики более опытных коллег.

У исследования есть существенное ограничение: оно проводилось в одной компании и в службе поддержки, где задачи относительно формализованы. Результаты нельзя автоматически переносить на разработку, архитектуру или управление продуктом. Однако они показывают возможный механизм: AI помогает распространять накопленные способы работы и даёт менее опытным сотрудникам быстрый доступ к ним.

Когда агентность сужается

Делегирование экономит усилия именно потому, что часть работы перестаёт выполнять человек. Проблема начинается, когда вместе с вычислениями или поиском он незаметно передаёт AI право определять, что важно, какие альтернативы стоит рассмотреть и когда результат уже достаточно хорош.

В исследовании, представленном на CHI 2025, 319 специалистов описали 936 рабочих ситуаций, в которых они использовали генеративный AI. Чем больше участники доверяли AI, тем меньше усилий они, по их словам, тратили на проверку его ответов. Те, кто был увереннее в собственных знаниях по задаче, чаще критически оценивали результат. Умственная работа при этом не исчезала, но менялась: люди проверяли сведения, встраивали ответ AI в свою работу и контролировали итог.

У этого исследования есть важное ограничение: авторы опирались на рассказы участников о собственной работе, а не измеряли их поведение в эксперименте. Поэтому результаты показывают связь, но не объясняют её причину. Они не доказывают, что использование AI само по себе ухудшает критическое мышление.

Лизанна Бейнбридж описала похожую проблему ещё в 1983 году в статье Ironies of Automation. После автоматизации человеку достаются в основном редкие и нестандартные ситуации. При этом отстранение от повседневной работы ухудшает навыки и понимание процесса. В итоге максимальная компетентность требуется именно тогда, когда из-за недостатка практики она уже могла снизиться.

С AI этот эффект легко увидеть на практике: агент готовит изменения в коде быстрее, чем инженер успевает их внимательно проверить. Формально последнее слово остаётся за человеком. Но когда очередь изменений растёт, ревью всё чаще превращается в механическое нажатие кнопки «Подтвердить».

Полномочия важнее антропоморфизма

Можно долго спорить, способен ли AI думать. Но при проектировании системы важнее понимать, к каким данным и действиям у него есть доступ. Даже система без сознания может причинить реальный ущерб, если ей разрешено отправлять письма, изменять данные или развёртывать код.

В классической работе по human factors, то есть взаимодействию человека с техникой, Раджа Парасураман, Томас Шеридан и Кристофер Уикенс разделили автоматизацию на четыре функции:

1. получение информации;
2. анализ информации;
3. выбор решения или действия;
4. выполнение действия.

Степень автономности можно задавать отдельно для каждой функции. Coding agent может самостоятельно читать весь репозиторий, анализировать зависимости и предлагать несколько решений, но менять код только в рабочей ветке. Другой агент может действовать по жёсткому эксплуатационному сценарию (runbook), зато иметь право перезапустить сервис в рабочей среде. У первого больше свободы при выборе решения, но меньше прав на изменения. У второго меньше вариантов, но выше непосредственный риск.

Поэтому вопрос «насколько автономен наш агент?» слишком общий. Полезнее описать границы делегирования по нескольким параметрам:

Чем труднее отменить действие и чем выше возможный ущерб, тем уже должны быть полномочия агента. Их нельзя автоматически расширять после выхода более качественной модели. Сначала нужно проверить весь рабочий процесс, а затем постепенно добавлять права и следить за ошибками.

«Человек в контуре» может ничего не контролировать

Фраза «человек в контуре» (human in the loop) создаёт ощущение безопасности, но само присутствие человека ещё не гарантирует контроля. У него может не быть времени на проверку, знаний о системе, информации о причинах решения или права отменить это решение.

Филиппо Сантони де Сио и Йерун ван ден Ховен предложили два условия осмысленного человеческого контроля:

• учёт человеческих целей и обстоятельств (tracking) - если меняются цели человека или важные условия, система должна учитывать это в своих действиях;
• прослеживаемость ответственности (tracing) - в цепочке проектирования и эксплуатации можно указать хотя бы одного человека, который понимает свою роль и способен отвечать за результат.

В IT недостаточно, чтобы агент точно следовал промпту. Он должен учитывать права доступа, обязательные требования к данным, стоимость, безопасность и изменения среды. Прослеживаемость означает не просто имя в поле approved_by, а понятную цепочку решений: кто разрешил этот сценарий, кто определил границы, что именно проверялось и кто может изменить правила после инцидента.

Иначе возникает то, что Мадлен Элиш назвала моральной зоной деформации, по аналогии с зоной деформации автомобиля. Ответственность за сбой сложной автоматизированной системы перекладывают на оператора, хотя он почти не мог повлиять на результат. Это обратная сторона фразы «AI сам решил». В одном случае организация прячется за машиной, в другом - за последним человеком, который нажал кнопку.

Осмысленный контроль не требует ручного подтверждения каждого шага. Нельзя возлагать на человека ответственность за решения, на которые он не может повлиять. Иногда автоматический откат и жёсткие ограничения полномочий дают больше контроля, чем кнопка подтверждения после сотен непрозрачных действий.

Как проектировать систему, которая усиливает агентность

Цель не в том, чтобы сохранить за человеком как можно больше ручной работы. Важно, чтобы люди и команды продолжали ставить цели, видеть последствия, учиться на ошибках и менять правила.

1. Делегировать задачу вместе с границами

Фраза «исправь проблему» слишком расплывчата: агенту придётся самому угадывать ваши ожидания. Укажите допустимую область изменений, запрещённые действия, бюджет, критерии завершения и этапы, на которых требуется согласование. Чем менее точна постановка задачи, тем важнее ограничить права и сохранить возможность отката.

2. Отделять исполнение от проверки

Отчёт агента о выполнении задачи полезен, но не доказывает правильность результата. Компилятор, тесты, статический анализ, автоматические проверки политик и мониторинг после развёртывания обнаруживают разные типы ошибок. По сути это функции пригодности (fitness functions), которые постоянно проверяют важные свойства системы.

3. Согласовать скорость агента с возможностями проверки

Если агент создаёт двадцать изменений в час, а команда успевает качественно проверить только два, её производительность не выросла в десять раз. Вместо этого появилась очередь непроверенных решений. Ограничение числа одновременно выполняемых задач помогает команде сохранять понимание происходящего.

4. Оставлять человеку практику, а не только аварии

Инженерам нужно сохранять собственное понимание системы. Для этого они должны продолжать заниматься диагностикой, разбирать альтернативы, читать код и анализировать инциденты. Иначе агент возьмёт на себя обычную работу, а человеку останутся редкие исключения, к которым он уже не готов.

5. Измерять результат всей системы

Количество вызовов модели, строк кода или закрытых тикетов показывает активность, но не пользу. Важнее понять, может ли вся система стабильно выполнять больше нужных задач. Измеряйте время до работающего результата, объём повторной работы, число инцидентов, стоимость проверки, способность команды объяснить решение и время восстановления.

6. Пересматривать структуру после каждого сбоя

Ошибка агента указывает не только на слабость модели. Нужно проверить, почему выданные права, контекст, тесты и процедура вмешательства не помогли вовремя обнаружить и остановить её. Иногда достаточно исправить промпт, но проверить нужно и организационные правила, программные интерфейсы и процесс поставки изменений.

Что меняется в повседневной жизни

Агентность часто представляют как полную независимость: самостоятельно выбрать цель, найти путь и всё сделать. В реальной жизни мы действуем с помощью других людей, институтов и технологий. Самостоятельность проявляется не в отказе от помощи, а в понимании того, от кого и от чего мы зависим.

AI делает такие зависимости менее заметными. Предложенный маршрут, текст письма или план карьеры появляются мгновенно и звучат убедительно. Но любой ответ AI уже влияет на выбор: одни варианты он показывает, а другие нет. Если принять предложение только из-за уверенного тона, вариантов формально станет больше, а самостоятельного выбора - меньше.

Есть несколько простых проверок:

• могу ли я сформулировать цель до обращения к AI;
• понимаю ли, какие допущения попали в ответ;
• способен ли назвать хотя бы одну отвергнутую альтернативу;
• знаю ли, что проверю самостоятельно;
• могу ли остановиться и изменить исходную постановку;
• остаётся ли у меня навык действовать при недоступности инструмента.

Не каждое бытовое решение требует такой проверки. Но чем сильнее результат влияет на других людей, деньги, здоровье, безопасность или профессиональную репутацию, тем важнее прямо задать себе эти вопросы.

Исследования и дополнительные материалы

Философия, социология и психология

• Agency - Stanford Encyclopedia of Philosophy - обзор основных концепций действия, намерения, контроля и искусственной агентности.
• What Is Agency?, Emirbayer and Mische, 1998 - социологическая модель агентности как сочетания привычки, воображаемого будущего и практической оценки настоящего.
• The Constitution of Society, Anthony Giddens, 1984 - классическая формулировка связи действия и социальной структуры.
• Social Cognitive Theory: An Agentic Perspective, Albert Bandura, 2001 - личная, опосредованная и коллективная агентность, а также роль намерения, предвидения и саморегуляции.
• The “What” and “Why” of Goal Pursuits, Deci and Ryan, 2000 - автономная мотивация и различие между действием по собственной воле и внешним контролем.

IT, автоматизация и AI

• Intelligent Agents: Theory and Practice, Wooldridge and Jennings, 1995 - классические свойства программного агента до эпохи больших языковых моделей.
• A Model for Types and Levels of Human Interaction with Automation, 2000 - модель автоматизации получения информации, анализа, выбора и выполнения действий.
• Ironies of Automation, Lisanne Bainbridge, 1983 - почему автоматизация меняет роль оператора и усложняет работу с исключениями.
• ReAct: Synergizing Reasoning and Acting in Language Models, ICLR 2023 - архитектурный цикл рассуждения, действия и наблюдения.
• AI Agents That Matter, 2024 - ограничения современных тестовых наборов и необходимость учитывать стоимость, устойчивость и воспроизводимость.
• Measuring AI Ability to Complete Long Tasks, NeurIPS 2025 - метод оценки временного горизонта AI-агентов и ограничения экстраполяции.
• International AI Safety Report 2026 - актуальный обзор возможностей, ограничений и рисков автономных AI-систем.
• Generative AI at Work, 2025 - полевое исследование внедрения AI-помощника у 5172 сотрудников поддержки.
• The Impact of Generative AI on Critical Thinking, CHI 2025 - опрос о том, как AI меняет критическую проверку в работе и какую роль играет доверие.
• Meaningful Human Control over Autonomous Systems, 2018 и Moral Crumple Zones, 2019 - две дополняющие работы о контроле и распределении ответственности.

Вывод

В системе с AI агентность распределена между пользователем, организацией, моделью, интерфейсом и правилами доступа. Все эти элементы влияют на то, какие действия выполнит агент и каким будет результат. AI-агент может самостоятельно выполнять часть работы, но ответственность всё равно остаётся у людей и организаций. Она размывается лишь тогда, когда никто не может объяснить, кто и почему разрешил системе действовать именно так.

Хорошая AI-система не обязательно та, которая дольше всех работает без человека. Она должна помогать человеку и команде решать больше задач, не лишая их возможности выбирать направление, замечать ошибки и менять правила.

Правило простое: когда поручаете задачу AI, заранее определите, что ему разрешено делать, как будет проверяться результат и кто отвечает за возможные последствия. Тогда делегирование расширяет возможности человека и команды. Иначе агент получает больше самостоятельности, чем команда способна контролировать, а фраза «агент всё сделал» лишь скрывает, кто на самом деле принял решение.

Комментарии в Telegram-группе!