Все думали, что школы радикально изменятся под давлением ИИ.
Но три с половиной года спустя после появления ChatGPT образование практически не изменилось.
В мае этого года Сэм Алтман вернулся в свою альма-матер Стэнфорд, поднялся на сцену курса CS153 и признал:
Это была моя ошибка в прогнозе.
И бросил резкое предупреждение: если не измениться, способность человека к мышлению сократится.
Недавно на сцене курса CS153 в Стэнфорде у Сэма Алтмана, генерального директора OpenAI, спросили: Что вы думаете об образовании?
Он сделал паузу: «Я очень обеспокоен. Я думал, что к настоящему моменту оно уже должно было измениться».
Алтман выступает на курсе CS153 в Стэнфорде, говоря об образовании в эпоху ИИ, и признает, что недооценил скорость изменений в образовательной системе. (Источник: Stanford Online)
Три с половиной года назад, когда ChatGPT только запустился, Алтман считал, что студенты будут жульничать примерно год, а затем вся система образования будет вынуждена перестроиться, чтобы обучать людей, которые будут мыслить лучше, чем раньше.
Однако три с половиной года спустя сценарий развился не так, как предполагал Алтман.
Со стороны ИИ: от GPT-3.5, умеющего лишь писать тексты, эволюционировали до решения гипотез, над которыми математики бились десятилетиями.
А со стороны школ: до сих пор проверяют студентов по той же схеме: заучивание, правильные ответы, закрытые экзамены.
Домашние задания, экзамены, эссе... Всё осталось по-старому. Он не нашел ни одного важного структурного изменения во всей образовательной системе.
Человек, правильно угадавший «Закон масштабирования» (Scaling Law), ошибся именно в прогнозах об образовании.
Он сказал, что это одна из его самых больших ошибок в прогнозах за последние годы.
Человек, постоянно упоминающий об искусственном общем интеллекте (ИОИ/AGI), беспокоится о занятиях в аудитории.
Чего же он боится на самом деле?
Он думал, что школы уже должны были измениться
Вернемся в ноябрь 2022 года, сразу после запуска ChatGPT.
Тогда прогноз Алтмана был еще оптимистичным:
В первый год студенты будут использовать его для списывания и мало чему научатся; затем образовательная система перестроится сама и будет преподавать намного лучше, чем раньше.
По его замыслу, учителя будут задавать проекты, для которых обязательно нужно использовать ИИ, и студентам, наоборот, придется больше думать, придумывать больше нового.
В 2024 году он публично высказывал надежду: суперинтеллект подарит каждому личного наставника, образование сместится от зубрежки к решению проблем, к критическому мышлению.
В результате, ИИ шагает вперед семимильными шагами каждый год, а образование не сдвинулось с места.
Аутсорсинг мышления ИИ опустошает критическое мышление
Именно этот разрыв и беспокоит Алтмана по-настоящему.
Он говорит, что если продолжать обучать и оценивать студентов по старой системе «мира до ИОИ», это не только сделает этот метод нерабочим, но и заставит людей «разучиться думать», приведя к постепенному сокращению критического мышления.
Передавать мышление на аутсорсинг ИИ — сначала это просто ради удобства.
Но то, что не используется, атрофируется. Та часть мозга, которая отвечает за самостоятельное мышление, будет, как долго неиспользуемая рука, незаметно сокращаться и слабеть, по выражению Алтмана — мышечная атрофия (atrophy).
Это лишь опасения Алтмана или уже происходящая реальность?
Исследования показывают, что после прихода ChatGPT в аудитории результаты ежемесячных тестов упали примерно на 20% за полгода; результаты важных вступительных экзаменов, определяющих будущее, снизились на 18% и 24% соответственно, и этот счет проявляется постепенно, с задержкой в два года.
Более показателен анализ, проведенный в Калифорнийском университете в Беркли (UC Berkeley).
Среди более 500 тысяч образцов оценок, по таким предметам, как письмо и программирование, оценки после появления ChatGPT явно сместились вверх, но выросли только баллы за домашние задания, а экзаменационные баллы остались без изменений.
Анализ Калифорнийского университета в Беркли более 500 тысяч оценок: после выпуска ChatGPT доля оценок A и A- по предметам типа письма и программирования заметно выросла (синий цвет — значительный положительный рост), B+ и ниже почти не изменились. (Источник: Chirikov/CSHE)
Почему? Это «аутсорсинг», а не «обучение».
Другое исследование, охватившее миллионы интеракций по математике в США за десять лет, также указывает на тот же вывод: с приходом чат-ботов задачи решаются быстрее, но изучается меньше.
Домашние задания сдаются все красивее, а голова — все пустее.
Почему обещанное Возрождение образования не наступило
Озадачен не один Алтман.
Член технической команды OpenAI Райан Брюэр написал в посте, что он поражен, что большие языковые модели не вызвали Возрождения в образовании:
Разве я не должен был выучить язык за месяц? Что же мы упустили?
Подобные сомнения быстро распространились в X: имея в руках самый мощный в истории инструмент для обучения, почему ИИ-репетитор еще не пришел в каждый дом, почему революция в образовании запаздывает?
Ответ не в технологии, а в инерции системы.
Система оценки в университетах — экзамены, эссе, задания — столетиями основывалась на негласной предпосылке: эти вещи отнимают слишком много времени, никто не будет искать коротких путей.
С приходом ИИ эта предпосылка изменилась.
Но школы по-прежнему измеряют по стандартам «мира до ИОИ» новое поколение, выросшее с ИИ, хотя на самом деле первое поколение «аборигенов ChatGPT» уже заканчивает учебу.
Смена инструмента требует лишь номера версии, смена системы — целого поколения: технологически всё давно готово, но правила застряли в прошлой эпохе.
ИИ-репетитор, работающий 24 часа без устали, способный к индивидуальному подходу и почти бесплатный, теоретически может быть предоставлен каждому ребенку уже сегодня.
Но он не приходит, и настоящая причина кроется в скорости, с которой образовательная система перестраивает саму себя.
В том же выступлении Алтман высказал такое суждение:
С момента появления ChatGPT прошло три с половиной года. Даже если ИИ просто продолжит двигаться по той же кривой еще три с половиной года, то, что человеческое общество сможет делать, будет на совершенно другом уровне по сравнению с сегодняшним днем.
По мере экспоненциального рывка технологий разрыв между ними и образованием будет только увеличиваться, и в итоге заполнять его придется этому поколению студентов, которые сейчас еще сидят в старых экзаменах, старых заданиях, старой системе оценок.
Навыки, которые они изучают, могут быть взяты на себя ИИ сразу после выпуска; суждение, которое они не тренировали, возможно, будет трудно наверстать за всю жизнь.
За всем этим скрывается «когнитивный долг» целого поколения.
Если машина может писать, зачем человеку еще учиться
Так чему же все-таки нужно учить?
Ответ Алтмана несколько контр-интуитивен: некоторые вещи, которые машина, казалось бы, может делать лучше, человек все равно должен сделать своими руками.
Он привел свой пример.
Он говорит, что он из тех людей, которые «думают, когда пишут», пишет много текстов, которые никогда никому не показывает, только чтобы прояснить для себя проблему, и он рад, что в свое время учился писать.
То же с программированием: код ИИ может сгенерировать за секунду, но процесс самостоятельного построения логики тренирует мозг.
Проще говоря, письмо и программирование подобны задачам на доказательство в математике во времена калькуляторов: результат машина уже давно может вычислить, но мы все равно заставляем студентов выводить его сами. Цель — не ответ на вопрос, а сами метанавыки «мышления» и «обучения», а письмо и программирование — именно инструменты для их тренировки.
Вследствие этой логики Алтман выступает за смещение цели образования от «запоминания большего количества знаний» к «умению задавать лучшие вопросы»; от проверки памяти к проверке суждения, творчества, подлинных междисциплинарных способностей.
А корень проблемы как раз в системе оценки.
Что проверяют сегодняшние экзамены?
Память, правильные ответы, выполнение в одиночку без подсказок. Как раз то, что ИИ умеет лучше всего и может сделать за вас.
Когда школа все еще оценивает студентов по принципу «кто больше запомнил, кто точнее ответил», ИИ превратил «больше запомнить, точнее ответить» в товар с нулевой стоимостью.
Сколько смысла остается в цифрах, измеренных линейкой, которую ИИ может легко пройти, для оценки способностей следующего поколения?
Вот что действительно беспокоит Алтмана: не так важно, используют ли студенты ИИ, важно, умеют ли они его проверять.
Еще более тревожной, чем чрезмерная зависимость от ИИ, является использование ИИ без умения проверять, безоговорочное принятие того, что выдает машина.
Если позволить этой инерции тянуться еще три с половиной года, целое поколение постепенно утратит тренировочную площадку для самостоятельного мышления, и когда опомнится, поймет: оно уже разучилось думать самостоятельно.
Источники:
https://www.youtube.com/watch?v=F_7M4Hc-usM
https://x.com/hesamation/status/2073884828861071557
https://x.com/ryanbrewer/status/2073812031988535760
Статья из WeChat Official Account «新智元» (New Wisdom), автор: ASI启示录
