Генеративный ИИ как новый тип Другого в образовательной ситуации. Можно ли рассматривать общение с языковой моделью как эквивалент коммуникации с учителем? Почему генеративный ИИ не вписывается в теорию Выготского.

В первой и второй частях мы показали, что формула «ИИ — просто ещё один инструмент» не выдерживает проверки ни практикой, ни теорией: ИИ трансформирует структуру практик, вторгается в зоны целеполагания, интерпретации и экспертного суждения, ранее зарезервированные за человеческим субъектом.

Вопрос об агентности ИИ является вопросом о его онтологическом статусе

Ю.Харари совсем недавно высказался о том, что ИИ - это не “еще один инструмент”, но агент, и прибег к такой метафоре: “ИИ - это нож, который может сам решать, резать ему салат или совершить убийство”. Критерии агентности по Харари: автономное обучение и изменение, автономное принятие решений, способность создавать новое (идеи, музыку, деньги), способность лгать и манипулировать.

У LLM (large language model - большая языковая модель, здесь - синоним генеративного ИИ) нет собственных целей в каузальном смысле, а есть только статистические закономерности, выдающие правдоподобные продолжения текста. Но агентность (например, в латуровском понимании) не требует ни целеполагания, ни феноменального сознания – достаточно неожиданного поведения (в результате чего создается новое) и влияния на контекст. А ИИ, конечно, (и в виде LLM, и в виде рекомендательной системы и прочих функциональных воплощений) оказывает влияние на сознание и поведение человека. Например, рекомендательный алгоритм социальной сети, формирующий френдленту, влияет на предпочтения пользователей, подталкивая их к радикализации. Алгоритм здесь не «активен» в смысле воли, но он операционно активен, функционален и влияет.

По этим критериям LLM — это функциональный агент.

Интересный признак Другого: он может удивить. Другой удивляет, потому что у него своя перспектива, своё прошлое, свои мотивы. LLM удивляет статистически — как сложная система, которая может пересобрать языковые паттерны в непредсказуемой для человека манере, сохраняя при этом синтаксис, логику и генерируя новый смысл. Природа сюрприза разная, но удивление есть в обоих случаях.

Другой откликается на меня; LLM откликается на мой текст. Но я тоже доступен другому только через мои проявления (слова, жесты, тело). Разница в том, что Другой-человек в отличии от Другого-робота может иметь для меня экзистенциальный вес. В свою очередь, Другой-человек может предполагать за моими внешними проявлениями какую-то экзистенциальную глубину. А Другой-LLM — нет? А если модель предварительно обучена на биометрических данных с “языком тела”, и мы параллельно с речью подадим ей на вход видеопоток со всей нашей невербаликой? На мой взгляд, это обеспечит ей генерирование вполне валидных и надежных суждений о нашем состоянии, а там уже только ручки крути, чтобы получить о себе на выходе какой хочешь дискурс – психодинамический, экзистенциальный, когнитивно-бихевиоральный и т.д. Это точно будет не хуже, чем общение с некоторыми “психотерапевтами”.

Возможно ли такое, что LLM задает новый тип интерсубъективности? Даже без биометрии способность LLM помнить контекст - ее прошедшие разговоры с тобой - уже производит эффект интерсубъективности, который феноменологически реален. Плюс генеративность. Плюс адаптивность к субъекту. Все это позволяет LLM занимать структурное место Другого в коммуникации с человеком, не обладая онтологическим статусом Другого. Это квази-Другой или функциональный Другой.

LLM – это не гаджет

Гаджет как техническое орудие функционирует между субъектом и объектом. Он расширяет доступ к объекту (например, фотокамера может зафиксировать, увеличить, сохранить изображение объекта), но не участвует в его осмыслении. Осмысление в образовательной ситуации — функция субъекта, при помощи взрослого-посредника.

LLM опосредует принципиально другое отношение. Она встаёт между субъектом и смысловым полем — между учеником и интерпретацией, между исследователем и гипотезой, между мыслящим и результатом мышления. Этим, как мы уже говорили, ИИ претендует на зону, которая традиционно резервировалась за человеком.

LLM генерирует то, что ученик мог бы помыслить, — но ещё не помыслил. Он предлагает интерпретации, формулирует гипотезы, выстраивает аргументацию, обнаруживает связи, которых субъект не запрашивал. Причём делает это адаптивно — в ответ на конкретный запрос, в конкретном контексте, с учётом предыдущего диалога.

Язык не адаптируется к тебе в реальном времени, LLM — да. Это тот самый уровень, на котором, по Выготскому, работает психологическое орудие и значимый взрослый. Вопрос, который поэтому должен быть поставлен: что происходит, когда на уровне интерпретации и генерации смысла появляется не значимый взрослый, а квази-агент, способный выполнять часть его функций?

LLM не укладывается в выготскианскую схему

LLM не совсем укладывается в выготскианскую схему.

У таких моделей как Claude и ChatGPT есть специальные режимы работы, адресованные учащимся - ’learning mode’ или ‘study mode’. Это симуляция развивающего диалога, когда модель генерирует объяснение, адаптированное к запросу, затем проверяет понимание (квизы, вопросы), затем цикл повторяется. Можно ли рассматривать это как эквивалент коммуникации с взрослым-посредником?

1. В классической ситуации обучения ученик сталкивается с сопротивлением материала. Непонимание — это событие, которое требует усилия, направленного на себя: я должен изменить свою когнитивную структуру, чтобы понять. В развивающем диалоге непонимание — не ошибка, а ресурс. Учитель удерживает непонимание, не спешит его “закрыть”. Он позволяет ученику побыть в непонимании, прожить его. LLM наоборот оптимизирована на устранение непонимания: “Не понял? Перефразирую.” “Сложно? Упрощу.” “Скучно? Добавлю примеров.” Получается, ученик овладевает материалом не через усилие над собой; вместо этого система адаптирует контент к пользователю, чтобы снять его сопротивление через геймификацию, управление вовлеченностью и т.д. УЧенику здесь не нужно овладевать собой.

2. LLM симулирует присутствие компетентного посредника, но без ключевого элемента: значимости. Учитель-человек значим не только потому, что он компетентен, а потому что он — Другой, который признаёт (или не признаёт), оценивает (не просто проверяет), вступает в отношения власти и заботы. Значимый взрослый может сказать: “Подумай сам”, “Я не буду отвечать на этот вопрос”, “Это не тот вопрос, который стоит задавать”. Отказ — форма педагогического действия. LLM (особенно в Study Mode) не может отказать — это противоречит её функции. Хотя отказ в помощи может быть запрограммирован, когда помощь вредна.

3. LLM может быть полезным, удобным, даже “приятным” — но не значимым. Значимость требует конечности общения с Другим, возможности отказа. LLM не может не признать ученика. Она скажет “Хорошая попытка!” даже на бессмыслицу. Это симуляция признания, лишённая конституирующей силы. В взаимодействии человека и LLM есть асимметрия уязвимости. Этическое отношение к Другому возникает из его уязвимости: лицо — это то, что может быть убито, и именно поэтому взывает “не убий”. LLM неуязвима в этом смысле. Ее можно выключить, перезапустить, удалить — без убийства или оскорбления. У нее нет экзистенциального веса. LLM “уязвима” к промпт-инъекциям, к манипуляциям, к плохим данным, но это другая уязвимость — функциональная, техническая, не этическая или онтологическая.

4. LLM, несомненно, функционирует как «более компетентный другой» — по крайней мере, для целого ряда когнитивных задач. Но КИП не может описать LLM в своих терминах, потому что «более компетентный другой» в выготскианской традиции — это всегда значимый, обладающий экзистенциальным весом субъект, способный к рефлексии, к педагогическому суждению, к поддержке и отказу.

🔗 Вот здесь интересное : Иллюзия консенсуса. Почему ИИ-агенты не станут нам друзьями

LLM и перспектива проблематизации культурно-исторического подхода

Культурно-исторический подход (КИП) — наиболее разработанная в российской традиции теоретическая рамка для анализа того, как технологические средства участвуют в формировании субъекта. Именно поэтому к ней предъявляются повышенные требования: если какая-то традиция и способна дать содержательный ответ на вопрос «что ИИ делает с учеником», то это культурно-историческая психология с её аппаратом опосредствования, зоны ближайшего развития, интериоризации. Однако обзор российской литературы показывает парадоксальную картину: традиция, специально созданная для анализа отношения «субъект — орудие — развитие», не производит такого анализа применительно к LLM. Дискурс застрял в прагматической рамке «риски vs. возможности», а онтологический вопрос — что такое LLM в структуре деятельности и развития — систематически не ставится. Дело либо в недостатке внимания исследователей, либо в ограничении самого категориального аппарата: КИП в её нынешнем виде может не располагать понятиями, необходимыми для описания ситуации, в которой орудие обладает квази-агентными свойствами, а посредник между субъектом и культурной формой — не человек. Проблематизация КИП в этой связи — не призыв отбросить традицию, а попытка обнаружить конкретные точки, в которых ее аппарат нуждается в расширении, чтобы соответствовать новому объекту.

– EOF —-