ChatGPT поставил школу между адом и раем: воевать с искусственным интеллектом бесполезно, надо учиться с ним жить
AI научился нам нравиться
Начали с краткого ликбеза: модель искусственного нейрона, который будет работать примерно как человеческий, описали еще 80 лет назад. Но только когда из этих нейронов удалось построить достаточно большие сети, возникла та самая «магия процесса», рассказал Иван Карлов. Прорывным стал конец 80-х, когда советские и американские ученые независимо друг от друга пришли к модели обратного распространения ошибки, благодаря которой возник алгоритм быстрого обучения нейронных сетей.
Сейчас искусственный интеллект принято делить на аналитический (его профиль — выявление закономерностей) и генеративный — способный создавать контент, похожий на тот, который производит человек. AI по-прежнему оперирует только цифрами, но благодаря так называемой векторизации объектов удалось раскладывать тексты и изображения на цифры, а для ответа собирать обратно. Кстати, важная деталь: сейчас AI скорее англоязычен, то есть предварительно переводит на английский и наши запросы, и свои ответы, что тоже сказывается на точности.
Непосредственно ChatGPT построен на нейросетевой модели GPT третьего поколения (уже вышло четвертое, новая версия заметно сильнее), его особенности:
— Модель обучали на основе отзывов людей, выбиравших лучшие ответы из предложенных: она скорее «умеет нравиться», чем генерирует новое знание;
— Она продолжает учиться на нашем выборе, но не использует для саморазвития новые данные из источников;
— Она мало знает о новой реальности: модель построена на данных 2021 года.
«Ключевые недостатки: нет верификации по внешним источникам. ChatGPT работает не с достоверной информацией, а с неким представлением о реальности, возникшим в результате обучения на текстах из интернета. Он может ссылаться на несуществующих людей, публикации и т.д. Это постарались купировать в версии 4.0, также по этой причине авторы чат-ботов запрещают использовать их в таких критических отраслях, как медицина. Второй минус: нет системы логического вывода. В ответе ChatGPT мы принимаем за рассуждение цепь ассоциаций».
Звонок для учителя
Что конкретно умеет ChatGPT сейчас в контексте школьного образования — для семинара проверили учителя, студенты программы «Педагогическое образование». Ее академический руководитель Мария Лытаева представила несколько кейсов. Искусственный интеллект может составить стройный план урока, но получается шаблонно, не креативно (плюс надо согласовывать такой урок с требованиями ФГОС или других учебных программ, с которыми AI, конечно, не знаком). С созданием учебных материалов справляется лучше: ChatGPT написал вполне корректный текст для чтения на уроке английского с учетом уровня владения языком, возраста целевой аудитории, выделил активный словарь, задания на понимание текста, на тренировку лексики, даже на развитие критического мышления и рефлексию. Задание на создание текста для аудирования с нуля, для которого сочетали несколько программ AI, выполнено почти отлично.
Еще одна группа студентов разрабатывает при помощи ChatGPT программу обучающего курса по написанию резюме для поступления на работу и учебу. ChatGPT составил неплохой чек-лист для слушателя и сформулировал образовательные результаты, опираясь на таксономию Блума-Андерсона. Результат неплохой, хотя авторы эксперимента сочли, что искусственный интеллект склонен к общим формулировкам в противовес конкретике, не может сформулировать уникальные идеи, есть смысловые повторы, перепутаны близкие по смыслу термины. Но это может быть связано с русским языком и формулировками запроса: после уточнений ChatGPT доработал тексты.
«Если делать очень обобщенные выводы: сейчас ChatGPT точно может разгрузить опытного педагога в отношении рутинных действий. Но все-таки урок, придуманный AI, получается шаблонным и не точно настроенным под аудиторию, ему нужна творческая адаптация. Искусственный интеллект может составить набор учебных материалов, но преподавателю нужно скорректировать их и проверить на достоверность».
Лытаева Мария Александровна
академический руководитель магистерской программы «Педагогическое образование»
Каков вопрос — таков ответ
Еще один эксперимент: то, как средний ученик 7 класса, не особо «включая голову», мог бы использовать ChatGPT для домашних заданий по разным предметам: русскому языку, истории… В последнем случае получилось так себе: сочинив текст про Ивана Грозного, ChatGPT допустил ошибки.
«Я историк и сразу увидел вопиющую ошибку в вопросе, когда Иван был избран на царство. Ему было 17 лет, а не 3 года. В 3 года потерял родителей, стал великим князем, а не царем. На русском языке система путается в элементарных фактах, так что пока я спокоен за нашу цивилизацию»
Можайский Андрей Юрьевич
доцент Института классического востока и античности НИУ ВШЭ
Помимо фактических ошибок, ChatGPT еще многое присочинил или не подкрепил утверждения примерами — ученик бы засыпался на первом же уточняющем вопросе. Получается, на осведомленность AI полагаться нельзя.
Там, где не нужно было оперировать фактами (например, в задании по литературе), искусственный интеллект справился лучше, в географии — вообще прекрасно. С информатикой результат противоречивый: AI правильно решил лишь половину задач. Он хорошо пишет и анализирует коды, спотыкается на математике — считает правильно, но после точных расчетов внезапно может дать неправильный итоговый ответ.
«С задачами на логику совсем плохо. Причем, в отличие от других типов заданий, здесь уже не помогают ни подсказки, ни уточняющие вопросы. С классической задачей про волка, козу и капусту ChatGPT не справился: в первых действиях были намеки на правильное решение, но затем он начал так гонять персонажей туда-сюда, что мне стало их жалко».
Карлов Иван Александрович
заведующий лабораторией цифровой трансформации образования Института образования НИУ ВШЭ
В целом на сгенерированных ответах ученика поймать все-таки можно — за счет гладкости текста и отсутствия лексических повторов, что не свойственно живому человеку. Но это формальная сторона. Если ученик научится задавать вопросы, понимая, что именно он хочет узнать, понять и какой ответ устроит его самого, поможет разобраться и внятно изложить тему, — то с содержательной точки зрения ответы будут нормальными. Если ученик с таким полным и аргументированным ответом (по сути, проделав настоящую собственную работу в изучении темы) придет в класс, то это не только не плохо, но и очень хорошо. Умение задать точный вопрос и определить, найден ли на него необходимый и достаточный ответ, — важнейший навык в любой сфере.
«Взлом цивилизации» отменяется
Главный страх системы образования в связи с ChatGPT сейчас — списывание. Как с этим бороться, проанализировала Мария Добрякова. Внешний контроль сейчас необходим во всех случаях, когда возникает «бутылочное горлышко» — за переход на следующий уровень успеха человек должен с кем-то конкурировать, и здесь найти альтернативы сложнее всего. Но путь контроля над AI неизбежно приведет к «гонке вооружений» и попыткам одних технологий перехитрить другие. Однако есть гораздо более эффективный способ выиграть эту битву: убрать стимулы, которые толкают к списыванию. Вместо этого создавать для учеников такую среду и предлагать такие задания, которые поддерживают внутреннюю мотивацию. У любого человека есть то, что он делает сам с удовольствием, в психологии и педагогике много исследований того, как это работает. Решения есть, просто не в массовом образовании.
«Систему оценивания можно перенастроить с того, что можно списать (слова, цифры, формулы), на то, что списать нельзя — умение, действие, понимание. Предметное знание должно быть основано на понимании принципов, закономерностей; переплетено с осознанием того, что у нас нет запасной планеты (отсюда экологическая, гражданская грамотность) и что ситуации применения знания могут быть самыми разными и непредсказуемыми (отсюда универсальные компетентности). Хорошее образование пробуждает весь этот плотно сплетенный внутри клубок, это не вопрос или — или. А самыми лучшими (не требующими принуждения и контроля) действиями всегда будут те, что основаны на собственном выборе».
Добрякова Мария Сергеевна
главный эксперт лаборатории проектирования содержания образования
Более общая угроза AI: эксперты в разных странах опасаются, что, овладев языком в совершенстве, он сможет «взломать цивилизацию» и манипулировать нами, изменять картину мира. Мария Добрякова напомнила, что на самом деле мы в принципе мало контактируем с реальностью: наши представления о мире зависят от нашей культуры, от экспертного знания, от СМИ, от переводчиков и т.д. Почти все эти фильтры так или иначе необъективны, просто к ним добавляется еще один. Поэтому главная защита от манипуляций и искажений на любом уровне фильтров — понимать, что сконструировано чьим-то сознанием (фантазией, рассуждениями, договоренностями), а что все-таки существует независимо от того, как мы об этом рассказываем.
Прикладные плюсы ChatGPT: с его помощью можно докапываться до сути явлений столько, сколько необходимо. Ученик может получить понятный текст с индивидуальной настройкой по любой теме, а учитель — увидеть закономерности в предметном материале, нащупать вопросы, которые пробудят в учениках любопытство и станут шагом к пробуждению внутренней мотивации.
Полная видеозапись семинара здесь
ChatGPT_Karlov (PDF, 9.03 Мб)
ChatGPT_Лытаева (PDF, 1.75 Мб)
ChatGPT_Dobryakova (PDF, 8.58 Мб)
Карлов Иван Александрович
заведующий лабораторией цифровой трансформации образования Института образования НИУ ВШЭ