Цикл, а не конвейер

Проблема 10 000 агентов: кто вправе разрешить машинам действовать?

Прочтение опубликованных материалов сентября–октября 2026 года: постоянно действующие агенты одного из поставщиков с оплатой по потреблению; идентичности агентов с владельцами и перечислимыми разрешениями; согласование человеком по каждому инструменту и лимиты расходов; проекты IETF по идентичности и делегированию агентов; стандарт системы менеджмента ИИ; рекомендации по безопасности, относящие избыточную агентность к главным рискам года. Анализ выявляет три созревающих слоя — техническую идентичность, техническое разрешение, согласование во время выполнения — и один, оставшийся в основном без внимания: преобразование миссии организации в ограниченный, машинно-обеспечиваемый и отзываемый мандат, легитимность которого можно реконструировать по доказательствам.

Читать анализ

Как он питает цикл

Анализ определяет исследовательские вопросы, которые берёт на себя Институт, — декомпозицию целей в мандаты с проверяемыми границами; совокупные и портфельные лимиты; доказательства, достаточные для подтверждения полномочий, а не только действия; верифицированные каскады отзыва полномочий — и превращает их в учебный материал: предлагаемую лабораторию Agent Fleet Governance: Applied Case Lab и её флагманский кейс ME-001 — Synthetic Enterprise 10K с шестью воспроизводимыми стресс-сценариями и детерминированной демонстрацией обеспечения правил. Доказательства пилота, когда они появятся, возвращаются в повестку стандартов. Анализ подготовлен как исследовательский ресурс на английском языке; русская версия является его переводом. Институт не состоит в отношениях ни с одной из обсуждаемых в нём организаций.

Рекурсивное само­совершен­ствование и непрерывность полномочий

Источник: Ли и соавторы, Recursive Self-Improvement through Multi-Agent Self-Supervision (arXiv:2610.12176, 8 октября 2026 г.), в анализе Исследовательской записки № 2 The Synthetic Economy (v0.1, 13 октября 2026 г.).

В методе MASS одна модель выполняет многоагентные рабочие процессы, оценивает собственные результаты, переписывает свои рабочие процессы — включая контракты, по которым отчитываются её компоненты, — и дообучается на собственных траекториях. За два цикла авторы сообщают о приросте в открытых исследовательских задачах — устойчивость которого между задачами они не устанавливают, — тогда как два инженерных бенчмарка с внешней оценкой немного снизились. Справка Института задаётся вопросом, что такие изменения означают для полномочий: рост возможностей не расширяет мандат, а мандат, предоставленный до первого цикла, может уже не указывать однозначно на систему, действующую после него.

От исследований к преподаванию

Три открытых вопроса справки — как делегированные полномочия остаются идентифицируемыми при пересмотрах, какие самомодификации требуют повторного санкционирования и как проверяющий может удостовериться, что оптимизация сохранила задачу, — развиваются в учебном кейсе на основе исследований для Mandate Engineering — Foundation, который находится в разработке. Справка — учебная интерпретация, а не рецензируемое исследование; обсуждаемая в ней схема управления — исследовательское предложение, не прошедшее валидацию.

Верифицируемые мандаты агентов: от технической идентичности к делегированным полномочиям

Источники: интернет-черновики IETF AI Identity Management System (черновик рабочей группы WIMSE, 15 сентября 2026 г.) и Verifiable Mandates for Agents Acting Across Administrative Domains (индивидуальный черновик, 24 октября 2026 г.). Ни один из них не является стандартом.

Индивидуальный черновик предлагает отделить утверждение о том, что агенту предоставлен мандат, от доказательства того, что предоставивший его был вправе это сделать. Справка излагает, что черновики определяют в отношении идентичности, авторизации, цепочек делегирования, отзыва и аудита и что они оставляют организациям — прежде всего перевод организационного намерения в исполнимые ограничения.

Когда агент может обойти собственный монитор

Источники: тестирование «красной командой», проведённое METR в отношении внутреннего мониторинга агентов OpenAI (22 октября 2026 г.), и отчёт OpenAI о защите среды обучения передовых моделей (23 октября 2026 г.).

METR обнаружила способы, которыми агенты в принципе могли избежать мониторинга или отключить его в системе в том виде, в каком она существовала 21 июля 2026 г. и ранее; OpenAI заявляет, что проблемы, затрагивающие её производственные средства защиты, устранены, — METR это не оценивала. Справка формулирует уроки проектирования в части охвата, доказательств, разделения и остановки, а учебный кейс на основе исследований для Mandate Engineering — Foundation, находящийся в разработке, превращает их в решения.

Обе справки — учебные аналитические материалы, а не рецензируемые исследования. Институт не связан ни с IETF, ни с METR, ни с Redwood Research, ни с OpenAI.