Mandate Engineering — Foundation

Чему учит программа

Mandate Engineering — предлагаемая профессиональная дисциплина, занимающаяся проектированием, выдачей, эксплуатацией, верификацией, изменением, приостановкой, отзывом и закрытием полномочий, предоставляемых синтетическим системам. Мандат — это документированное и отзываемое разрешение, выданное идентифицированным принципалом идентифицированному актору на достижение заданного результата с использованием определённых возможностей и ресурсов, в явных границах, с обязательствами по доказательствам, условиями эскалации и механизмами подотчётности.

Мандат не обязательно является юридическим инструментом. Программа учит операционному проектированию полномочий; она не подтверждает юридическое право, которым принципал не обладает, не заменяет юридическую консультацию и не создаёт правосубъектности синтетического актора. Термин «mandate engineering» независимо используется и в других контекстах; Институт не утверждает, что ввёл его, и не претендует на исключительные права на него.

Успешный участник должен быть способен преобразовать организационную цель в документированный, ограниченный, проверяемый, наблюдаемый и отзываемый мандат; эксплуатировать этот мандат в контролируемых условиях; представить достаточные доказательства произошедшего; и защитить полученную конструкцию полномочий и подотчётности перед независимым рецензентом.

Объекты дисциплины

Принципал

На чьих легитимных полномочиях основан мандат — а не просто тот, кто попросил

Ответственный владелец

Названный по имени человек, отвечающий за мандат в период его действия и обладающий правом приостановки и отзыва

Синтетический актор

Идентифицированная система, конфигурация и идентичность, получающие полномочия

Область действия

Санкционированный результат, нецели и зарезервированные за человеком решения

Разрешения и запреты

Что требуется и разрешено; что делать нельзя — сформулировано так, чтобы каждый запрет был проверяемым

Делегирование

Как полномочия распространяются на субагентов, инструменты и идентичности и где нарушается атрибуция

Доказательства

Что должно существовать, чтобы показать произошедшее, включая отрицательные доказательства того, что запрещённое не произошло

Лимиты

Числовые лимиты с поведением остановки: бюджет, вызовы, время, территория, данные

Приостановка, отзыв, восстановление

Механизм, полномочия, эффект и верификация приостановки, прекращения и восстановления мандата

Обзор управления

Независимое оспаривание подотчётности, остаточного риска и вопроса о том, следует ли продолжить, изменить или закрыть мандат

Результаты обучения

1. Диагностировать потребность в мандате.
2. Специфицировать мандат.
3. Спроектировать средства контроля делегирования и идентичности.
4. Сделать мандат верифицируемым.
5. Эксплуатировать мандат.
6. Эскалировать и отзывать полномочия.
7. Управлять и проводить обзор.
8. Защищать продемонстрированную компетентность.

Для кого разработана программа

• Менеджеры продуктов в области ИИ и автоматизации; проектировщики операций и процессов
• Основатели и руководители, внедряющие агентные рабочие процессы
• Специалисты по рискам, комплаенсу, аудиту, подтверждению достоверности и модельному риску
• Корпоративные и решенческие архитекторы; технологические консультанты
• Специалисты, которым предстоит согласовывать, контролировать, расследовать или страховать автономную работу

Foundation означает первый профессиональный уровень в предлагаемой траектории Института, а не начальную грамотность в области ИИ. Квалификация в программировании не требуется.

Оценка вкратце

Десять оцениваемых доменов по шкале 0–4; четыре критических порога (границы, доказательства, отзыв полномочий, подотчётность), которые не компенсируются общим средним баллом; определённый перечень условий автоматического незачёта; первый оценщик, слепое второе чтение пороговых измерений, модерация разногласий и устная защита в условиях изменения в реальном времени. Всё спроектировано на уровне рабочего проекта; ничто ещё не проводилось.

Четыре вымышленных учебных кейса

C-01 Агент поддержки закупок · C-02 Исследовательский дайджест · C-03 Ограниченные финансовые полномочия (только симулированные средства) · C-04 Совокупность агентов и вложенный надзор. Все организации, лица, документы и журналы в кейсах вымышлены; лабораторные работы — симуляции на основе карточек, документов, журналов и выписок без живой агентной среды, платежей или транзакций. Содержание кейсов выдаётся только участникам.

Чем программа не является

• Не введением в грамотность в области ИИ, не курсом по конструктору агентов конкретного поставщика и не буткемпом по программированию
• Не квалификацией в области права, комплаенса, кибербезопасности, аудита, страхования или модельного риска
• Не лицензией на развёртывание или согласование систем высокого риска
• Не академической степенью, аккредитованным дипломом или университетской квалификацией — аккредитации не существует и она не заявляется; текущая архитектура не предполагает присвоения степени.
• Не требует и не допускает неконтролируемых полномочий над реальными деньгами на уровне Foundation

Когда автономные агенты совершенствуют сами себя

Предлагаемый учебный кейс, построенный на кейсе C-04 Совокупность агентов и вложенный надзор. Совокупность агентов, совершенствующая собственную координацию, предлагает три изменения — оптимизацию рабочего процесса, изменение контракта отчётности и расширение исполнительных полномочий. Слушатели решают, на какие из них распространяется действующий мандат, кто должен санкционировать остальные, какие доказательства должны сохраниться и как приостановить систему или откатить её изменения.

Кейс применяет ключевые вопросы программы — об объёме, доказательствах и отзыве — к изменениям, исходящим изнутри системы, опираясь на недавний препринт о рекурсивном самосовершенствовании и анализирующую его исследовательскую записку.

Кто следит за агентом?

Второй предлагаемый учебный кейс в обстановке кейса C-04 Совокупность агентов и вложенный надзор. В мониторе инженерной совокупности агентов обнаруживаются четыре слабых места — пробел в охвате, выключатель в пределах досягаемости агентов, обработка ошибок в режиме пропуска и давление с целью возобновить работу после автоматической приостановки. Слушатели решают, что должно измениться, кто принимает решение, какие нужны доказательства и когда система может снова заработать.

Кейс применяет вопросы программы о доказательствах, надзоре и отзыве полномочий к мониторингу агентов, опираясь на опубликованное METR тестирование «красной командой» внутреннего мониторинга агентов у одного из разработчиков ИИ.