Представим, что компания внедряет ИИ, и перед ней встает вопрос: можно ли их “эйчарам” использовать ИИ для скрининга резюме при найме кандидатов на работу. И кто определяет, что им вообще можно желать с ИИ, а что нет? Кто готовит документацию в соответствии с регуляторнымм требованиями? Кто координирует взаимодействие технарей, юристов и комплаенса?

AI Governance специалист работает на стыке этих функций. Проводит оценку алгоритмического воздействия (назовем это так - по аналогии с “регуляторным воздействием”) перед развертыванием систем. Разрабатывает цепочки согласований. Обосновывает, какие модели требуют человеческого контроля, а какие можно автоматизировать полностью. Документирует систему согласно требованиям регулирующих документов. Переводит эти самые требования в операционные процедуры для разработчиков.

Ключевая задача — не просто расписать красивую и этичную политику использования ИИ в организации, а сделать так, чтобы инженеры ей следовали, а руководство могло доказать аудитору соответствие их ИИ всем требованиям. Это означает шаблоны документации, чеклисты для разработчиков, процедуры реагирования на сбои модели и т.п. Формально AI Governance специалист отвечает за “ответственное использование ИИ”, фактически — он переводчик между регуляторными требованиями и операционной реальностью. Без этой функции компания либо блокирует внедрение ИИ из-за юридических рисков, либо развертывает системы которые не пройдут проверку регулирующих органов.

Фундаментом AI Governance можно считать управление данными: откуда берутся данные для обучения, как контролируется их качество, кто имеет доступ, как обеспечивается комплаенс/защита персональных данных. Очевидно, что уже здесь мы сталкиваемся с отраслевой спецификой: governance и управление данными в финансах радикально отличается от его же в здравоохранении или в оборонке. Другой важный элемент “управляемости ИИ” - объяснимость моделей в самом практическом смысле: можем ли мы объяснить себе, клиенту или регулятору, почему модель отказала клиенту в кредите? Документируются ли решения модели на случай возможной аудиторской проверки? Наконец, в сферу AI Governance входит продумывание полного жизненного цикла ИИ: не только запуск, но и вывод из эксплуатации, включая такие вопросы: что делать с моделью когда она устаревает? Как архивировать решения модели на случай, если они они понадобятся для будущих юридических споров?

Говоря об AI Governance, русскоязычные ресурсы используют кальку “управление ИИ”, хотя это не совсем корректный перевод. Точнее было бы “управляемость ИИ”, но это звучит непривычно. Так исторически сложилось, что русское слово “управление” покрывает весь спектр практик — администрирование, менеджмент, governance… Различение так размыто, возможно, потому, что в советской системе планирование, исполнение и контроль были интегрированы в единую иерархию. В англо-американской традиции разделение собственности и контроля потребовало концептуально разделить governance (владельцы через совет директоров устанавливают рамки деятельности) и менеджмент (наёмные профессионалы осуществляют деятельность в установленных рамках).

Имея в виду это различение, “governance” можно определить как институциональный дизайн: создание и поддержание формальных и неформальных правил. Менеджмент работает в рамках институтов (принимает решения, согласовывает их по установленным процедурам); Governance создаёт и поддерживает институты (определяет сами правила, процедуры их изменения, механизмы соблюдения). Конкретно для AI Governance это означает: выстраивание таких формальных институтов как: регуляторные рамки (законы), стандарты (напр., ISO 42001 - требования к внедрению и поддержке системы менеджмента ИИ в организациях), корпоративные политики (напр., цепочки согласования). Но также Governance включает в себя и неформальные институты: профессиональные нормы, представления об “ответственном” или “доверенном” ИИ, этические принципы, лучшие практики. И, наконец, механизмы обеспечения соблюдения нормативных требований, аудиты, сертификации и санкции.

Три года назад таких позиций как AI Governance Manager/Specialist не существовало в штатных расписаниях. Сегодня европейский регламент ИИ делает функцию обязательной для компаний, развертывающих высокорисковые системы. Профессия формируется на пересечении права, технологии и организационного дизайна — именно там, где институты, обеспечивающие управляемость ИИ, ещё только создаются.

#AI_governance #AI_regulation #регулирование_ИИ #governance