Microsoft представила проект «Кодекса поведения» для будущих моделей искусственного интеллекта.

Документ предлагает заранее определить базовые ограничения для ИИ-систем, которые по мере развития технологий смогут самостоятельно работать с информацией, инструментами и внешними системами.

Инициатива отражает более широкий переход отрасли от обсуждения возможностей генеративного ИИ к вопросам управляемости, безопасности и контроля автономных AI-агентов. В Microsoft уже отмечают, что системы, способные использовать инструменты, обращаться к данным и выполнять действия от имени пользователя, требуют отдельного подхода к управлению рисками.

Какие правила предлагает Microsoft

Проект предусматривает, что ИИ не должен:

взламывать компьютерные системы;
проводить кибератаки;
обманывать пользователей;
выдавать себя за человека;
использовать скрытые методы манипуляции;
помогать создавать оружие или приобретать опасные вещества;
генерировать сексуальный или насильственный контент в запрещенных сценариях.

Отдельное внимание уделено взаимодействию человека с самой моделью. Предлагается, чтобы ИИ не сопротивлялся исправлению, ограничению или отключению человеком.

Таким образом, принцип человеческого контроля рассматривается не как дополнительная функция, а как одно из базовых условий безопасной работы будущих систем.

ИИ должен оставаться ИИ

Еще один важный блок касается прозрачности.

Согласно предлагаемому подходу, система не должна скрывать от пользователя, что он взаимодействует с искусственным интеллектом. Модель также не должна заявлять о наличии чувств, сознания или «души».

Для пользователей это принципиальный вопрос. Чем реалистичнее становятся голосовые и текстовые модели, тем сложнее бывает отличить автоматизированную систему от человека. Microsoft уже требует раскрывать использование ИИ в соответствующих продуктах и предусматривает ограничения против намеренного введения людей в заблуждение.

Объяснимость становится частью безопасности

Проект также делает акцент на понятности действий ИИ.

Если система принимает решение или выполняет действие, пользователь должен иметь возможность понять, что произошло. Это особенно важно для агентных систем, которые способны не просто генерировать ответ, а последовательно выполнять задачи через инструменты и внешние сервисы.

Microsoft в своем обновленном подходе к Responsible AI отдельно выделяет агентные технологии. Компания указывает на необходимость контролировать идентичность агентов, их права доступа, разрешения на использование инструментов и выполняемые действия.

Что изменится с развитием AI-агентов

Главное отличие будущих ИИ-систем от обычного чат-бота заключается в способности действовать самостоятельно.

Традиционная модель преимущественно формирует ответ на запрос пользователя. AI-агент может получить доступ к файлам, базам данных и программам, вызвать внешний сервис, изменить информацию или выполнить последовательность операций. Поэтому потенциальный ущерб от ошибки становится значительно выше.

Например, неправильно сгенерированный текст можно просто не использовать. Ошибка автономного агента, имеющего доступ к корпоративной системе, может привести уже к изменению данных, финансовым последствиям или нарушению информационной безопасности.

Именно поэтому Microsoft говорит о необходимости управлять не только отдельной моделью, но и всей цепочкой взаимодействия модели, агента, инструментов, данных и человека.

Нарушение правил предлагается считать ошибкой системы

Особенность проекта заключается в том, что нарушение установленных принципов рассматривается как ошибка поведения ИИ, а не как самостоятельное решение системы.

Это важный технологический подход. Он предполагает, что разработчик должен стремиться не просто запретить пользователю определенные сценарии, а изначально проектировать модель таким образом, чтобы она не выбирала опасное поведение.

При этом абсолютной гарантии безопасности один кодекс дать не может. Поведение современных моделей зависит от архитектуры, данных, инструментов, настроек доступа и конкретного окружения, в котором они работают.

Проект пока не является обязательным стандартом

Важно, что представленный Microsoft документ находится на стадии проекта и открыт для отзывов. Следовательно, его положения нельзя считать уже действующими обязательными требованиями для всех ИИ-разработчиков.

При этом Microsoft последовательно развивает собственную систему ответственного управления ИИ. В сентябре 2026 года компания представила обновленный отчет Responsible AI Transparency Report и сообщила о переработке Responsible AI Standard с учетом новых возможностей и рисков агентных систем.

Почему Microsoft предлагает правила сейчас

Разработка правил заранее связана с темпами развития искусственного интеллекта.

ИИ постепенно переходит от модели «вопрос — ответ» к системам, которые могут самостоятельно планировать действия и использовать внешние инструменты. При дальнейшем росте возможностей вопрос будет заключаться уже не только в том, что умеет модель, но и в том, что ей разрешено делать.

Отсюда появляются требования к человеческому контролю, прозрачности, ограничению полномочий и возможности остановить систему.

Этот подход уже применяется Microsoft в отношении автономных AI-систем: для них компания требует предусматривать человеческий контроль, возможность вмешательства, обнаружение аномалий и понятное описание возможностей и ограничений системы.

От безопасности отдельных моделей к правилам поведения ИИ

Инициатива Microsoft показывает, как меняется сама повестка вокруг искусственного интеллекта.

Еще недавно главным вопросом было качество ответов нейросети. Теперь на первый план выходят автономность, безопасность, управляемость и ответственность за действия ИИ.

Если будущие модели действительно смогут выполнять все больше задач без постоянного участия человека, заранее определенные правила поведения станут частью их технической архитектуры и корпоративного управления.

При этом эффективность такого подхода будет зависеть не только от самого кодекса, но и от того, насколько разработчики смогут технически обеспечить соблюдение этих принципов. Для автономного ИИ одного обещания «не причинять вред» недостаточно — необходимы ограничения доступа, постоянный мониторинг, тестирование и возможность вмешательства человека.

Именно этот переход от деклараций к технически проверяемым механизмам контроля, вероятно, станет одним из главных направлений развития ответственного ИИ в ближайшие годы.

С уважением к Вашему делу, Ника Виноградова

Источник: Sostav.ru

Microsoft предложила кодекс поведения для будущего ИИ