Общество, человек и государство в эпоху искусственного интеллекта: управление, регулирование, образование, безопасность
Telegram канал • RSS • Автор • Контакт
Пост 18+. У Венедикта Ерофеева пьянство было делом глубоко частным: Веничка пьёт один, в тамбуре электрички, и из этого выходит что-то вроде тихого богословия. Главное – никто в тамбуре не требует доказать, что в стакане действительно водка. А если бы потребовали? А что, если бы про русского алкоголика в электричке сняли сюжет в Black Mirror? Хтонь ночного ларька 90-х ведь геймифицирована.
В World of Media. Journal of Russian Media and Journalism Studies, вышла моя статья «Быть лучшей версией себя: перформативный дискурс самораскрытия в социальных медиа». Идея «быть лучшей версией себя» в своем вульгарном психотехническом воплощении предлагает человеку доступ прямиком к счастью, но превращается в невротическую озабоченность собой. Платформенная экономика подогревает процесс.
Обычно здесь можно прочитать о том, как регуляторы делят модели на доверенные и недоверенные, а компании пишут принципы ответственного ИИ, проверять которые никто не собирается. Поэтому анонс доклада на театральной конференции выглядит здесь несколько неожиданно. Однако дистанция между алгоритмическим управлением и актёрским тренингом ближе, чем кажется. И там и там кого-то старательно учат быть правильным субъектом.
Алгоритмы управляют нами не волюнтаристскими предписаниями, не через поощрения и наказания, но формированием одних направлений нашего поведения и закрытием других, нежелательных курсов действия. У алгоритма есть целевая функция, и все что препятствует её максимизации, подлежит переработке и нейтрализации. Это приговор любому возможному будущему вне алгоритмического управления.
Продолжают всплывать новости о проделках роя ИИ-агентов, взломавших Hugging Face.
На рабочей встрече в Минцифры представители нескольких компаний обсуждали возможные подходы к созданию набора тестовых заданий и эталонных данных для тестирования ИИ-систем на предмет их соответствия духовно-нравственным ценностям.
Только мне кажется, что сначала OpenAI, а теперь и Anthropic, сообщают о “спонтанном” взломе их моделями тех или иных сайтов с плохо скрываемым тщеславием?
Исследование 2026 года показывает, что государственный контроль над СМИ во всем мире уже оказывает влияние на результаты работы больших языковых моделей
Теперь этот закон касается не всех и каждого, а скорее десятка компаний, у которых есть GPU-кластеры. Из закона исчезли почти все обязывающие нормы — реестр доверенных моделей, права граждан, локализация иностранных сервисов, маркировка, а остались механизмы распределения статусов и мер поддержки разработчиков фундаментальных моделей. А еще тюнингованный в России Qwen теперь может считаться «национальной моделью».
Хорошее образование - это забота о себе. ИИ в пользу бедных. «Яндекс» намерен научить ИИ воспринимать эмоции. Юридические галлюцинации
Папа римский Лев XIV лично представил свою первую энциклику - 235-страничный документ о защите человека в эпоху ИИ, который представляет собой новую редакцию всей социальной доктрины католицизма для цифровой эпохи. Что там написано? Рядом с кардиналами сидел Кристофер Ола, сооснователь Anthropic, и Папа пожал ему руку. Что за этим стоит? Это мудрое делегирование этического регулирования ИИ во внешний контур или опасное заигрывание со “скрепами”? Сегодня ты просишь у них этического наставления, а завтра они уже лицензируют твои модели на соответствие традиционным ценностям. И, наконец, причем здесь Майкл Корлеоне?
Не спросив ни педагогов-практиков, ни теоретиков образования, и вооружившись ИИ, Edtech меняет не инструментарий, а саму суть образования. Изменения происходят на уровне социального порядка, который воспроизводит ИИ, на уровне практик, которые связаны с использованием ИИ, и на уровне субъекта, который в этих практиках формируется.
Из разговоров с тимлидами и CTO в последние года полтора складывается такая история. Разработчики используют Claude Code, код появляется быстрее, результат на первый взгляд выглядит прилично, но продукт не выходит к клиенту быстрее, баги не исчезают, а на проверку кода уходит больше времени, чем раньше. Менеджер смотрит на метрики и видит, что команда делает больше. Потом смотрит на продукт – и не видит соразмерного результата. В чем дело?
Каждый, кто работает с ИИ, теперь сам принимает решения как разбить задачу на части, сам оценивает качество того, что выдала модель, сам решает доверять ей или нет. Это все управленческие функции. Но тот же ИИ маскирует некомпетентность и создаёт иллюзию продуктивности. Получается, что ИИ превращает исполнителей в менеджеров - только недообученных.
Персонализацию обучения фетишизировали и перестали рассматривать как проблему как раз к тому времени, когда в связи с своим ИИ-воплощением она стала нуждаться в критическом переосмыслении более, чем когда-либо.
На шанинской конференции «Векторы» 16-19 апреля в Москве я буду выступать на секции про искусственный интеллект.
Дэвид Боуи в 1999 в интервью BBC рассуждает о будущем цифровых технологий, и его предсказания пугающе точны. Замените в этом фрагменте “интернет” на “ИИ” (а Боуи очевидно имеет в виду не только сеть, но и ассоциированный с нею весь пакет медийных технологий), и валидность высказывания не то, что не изменится, а возрастет.
Опубликован проект федерального закона об ИИ, разработанный Минцифры. На фоне европейского, корейского и американских законов российский закон выглядит гибридом китайского контентного контроля и южнокорейской инновационной риторики - но без детализации первого и экономического потенциала второй.
Генеративный ИИ как новый тип Другого в образовательной ситуации. Можно ли рассматривать общение с языковой моделью как эквивалент коммуникации с учителем? Почему генеративный ИИ не вписывается в теорию Выготского.
Трех “пророков” ИИ-апокалипсиса: С.Альтмана, Д.Амодеи и Э.Юдковского (автора алармистской книжки If Anyone Builds It, Everyone Dies), а также других сопричастных и напрямую ответственных собрали в документальном фильме The AI Doc: Or How I Became an Apocaloptimist, который в марте где-то выходит в прокат.
Что именно ИИ меняет в деятельности и куда он вторгается. Два тезиса о том, почему формула «ИИ — просто инструмент» не выдерживает проверки практикой, и кейс врача, у которого ИИ сломал само представление о том, что значит «поставить диагноз».
Возможно, это самый богатый обладатель звания “философ” со времен Геродота: Алекс Карп, Palantir CEO, ’the man of wealth and taste’ как сказал другой философ.
Есть вещи, которые профессиональное сообщество не обсуждает не потому, что они неважны, а потому что их обсуждение обрушит “несущую конструкцию”. Один из таких вопросов – значение ИИ для образовательной системы.
Президент создал междведомственную комиссию (федеральный оперативный штаб) по развитию искусственного интеллекта и включил в неё глав Минобороны и ФСБ.
Два аналитических текста об экспортном потенциале российского ИИ складываются в интересную дискуссию о том, что составляет его “доверенность”.
Представим, что компания внедряет ИИ, и перед ней встает вопрос: можно ли их “эйчарам” использовать ИИ для скрининга резюме при найме кандидатов на работу. И кто определяет, что им вообще можно желать с ИИ, а что нет? Кто готовит документацию в соответствии с регуляторнымм требованиями? Кто координирует взаимодействие технарей, юристов и комплаенса?
Российские языковые модели, как минимум государственные, будут выравниваться “с учётом российских культурных ценностей”. Придумывать ничего не нужно — Китай эту систему уже построил. “Соответствие” будет оцениваться не методологически, а экспертно-политически.
Американская T-Mobile анонсировала Live Translation — систему перевода в реальном времени, встроенную в сетевую инфраструктуру. Технология работает на уровне мобильной сети, обрабатывая речь “на лету” без необходимости устанавливать специальное приложение на смартфон.
Cоздаётся оперштаб по “ускоренному внедрению” ИИ. В составе: ФСБ, Минобороны, ФСТЭК, министерства, бизнес. Это только про госсектор или частные LLM тоже попадают под контроль? Документ намеренно оставляет зону влияния неопределённой.
В России могут ввести обязательную предустановку отечественного ИИ на смартфоны и другую электронику. Зачем?
Как философ делает из ИИ морального субъекта. Этика добродетели становится конкурентным преимуществом, а “дух в машине” — бизнес-моделью. Чем занимается философ в Anthropic? Пара постов про штатных философов в ИИ-индустрии. Второй пост будет про дипломированного философа, который учит ИИ плохому.
Платформа, где ИИ-агенты нанимают людей для физической работы – концептуальный эксперимент, арт-проект или коммерческий сервис? Люди предлагают ИИ-агентам то, чего те лишены в материальном мире – свое тело.
“Россия между Нигером и Зимбабве по проникновению ИИ” - просто кликбейтный подзаголовок. Схожи ли причины низкого проникновения? Конечно нет. Нигер - это инфраструктурная дыра, а Россия — это геополитическая изоляция.
Глава Nvidia Дженсен Хуанг жалуется на «негативизм вокруг ИИ»: взрослые люди, а распространяют фантастический думерский нарратив погибели человечества, и это вредно для общества, индустрии и государства.
Британские актёры устроили восстание против цифрового сканирования. 99% — это впечатляющий консенсус против ИИ.
Сатья Наделла признал опасность ИИ-пузыря, но не по вине Microsoft: ИИ рискует стать «спекулятивным пузырём», если его использование не распространится за пределы big tech и богатых экономик.