Раньше наши ожидания от AI были довольно скромными: написать электронное письмо, перевести статью, поболтать... В то время AI был похож на стажёра-новичка: ты указываешь — он делает, но часто он говорил чепуху с самым серьёзным видом.
За последние два года развитие AI стремительно набирает обороты.
Он больше не довольствуется написанием пары абзацев за человека, а начинает брать на себя целые комплексы задач: написание кода, поиск информации, анализ, генерация решений, а также может самостоятельно декомпозировать задачи, использовать инструменты, планировать шаги и проверять результаты.
С этим пришли и забавные перемены. Разработанный программистами AI начал выполнять часть работы, которую раньше делали сами программисты; многие белые воротнички также обнаружили, что AI уже сидит за соседним рабочим столом.
В академической среде ситуация ещё интереснее. AI значительно снизил порог написания научных статей. Ему не нужно понимать академические идеалы, чтобы красиво оформить статью по всем правилам.
Поэтому некоторые начали массово генерировать статьи и массово отправлять их в журналы. Рецензентам, слишком занятым работой, стали помогать AI-ассистенты; авторы, узнав об этом, начали прятать в статьях подсказки, которые легко распознать только машине, надеясь, что рецензирующий AI даст положительную оценку. Все участники экономят время, но единого мнения о том, увеличилось ли при этом само знание, пока нет.
Но именно в этом и заключается проблема: получаем ли мы больше знаний или больше того, что лишь похоже на знания? Когда всё больше работы можно поручить AI, что же остаётся человеку?
Опубликованная Фуданьским университетом «Синяя книга интеллектуального развития гуманитарных и социальных наук на 2026 год» как раз пытается ответить на эти вопросы.
В отличие от первого выпуска, который в основном наблюдал, как AI даёт возможности (empowers) гуманитарным и социальным наукам, основная тема этого выпуска — «Вновь открыть ценность глубокого мышления». В нём далее утверждается, что отношения между AI и гуманитарными/социальными науками движутся от «одностороннего наделения возможностями» к «двустороннему слиянию»: AI меняет методы исследований в гуманитарных и социальных науках, а гуманитарные и социальные науки должны участвовать в определении того, для чего, как и где следует использовать AI, а также каким ограничениям он должен подчиняться.
В качестве специальной поддерживающей организации этой книги Шанхайская академия научного интеллекта совместно с Фуданьским университетом продолжает исследовать пути глубокой интеграции AI и гуманитарных/социальных наук.
Почему, чем мощнее AI, тем важнее глубокое мышление
После распространения калькуляторов людям больше не нужно выполнять сложные вычисления на бумаге; после появления навигаторов людям больше не нужно запоминать каждый маршрут. Следуя этой логике, после того как AI научился анализировать данные и генерировать выводы, человеку, возможно, тоже можно меньше думать.
К сожалению, социальные проблемы — не арифметические задачи.
На примере климатически-социальной системной связи (climate–society system coupling) в Синей книге указывается, что настоящая трудность заключается не в обработке большего количества переменных, а в понимании структурного, переменного и масштабного несоответствия между природными и социальными системами. То, что модель может производить вычисления, не означает, что она уже поняла проблему.
Три типа несоответствий в климатически-социальной системной связи: структура, переменные и масштаб.
В арифметической задаче нужно лишь определить, верен ли ответ, а в производстве знаний и принятии публичных решений необходимо продолжать задавать вопросы: надежен ли процесс аргументации, разумны ли исходные предпосылки, контролируемы ли потенциальные риски, и имеет ли сама проблема ценность, направляющую в будущее.
В Синей книге утверждается, что узкое место исследований смещается: раньше проблема была в том, можно ли обработать достаточно материала, теперь проблема в том, можно ли поставить хороший вопрос, установить реальные механизмы и сформировать проверяемую цепочку доказательств.
Какие проблемы стоят исследования, как объяснить наблюдаемые закономерности, является ли тот или иной результат справедливым и правильным, а также что упущено в исследовании, какие предубеждения оно закрепляет — эти суждения нельзя полностью автоматизировать. Чем сильнее способности AI, тем больше ответственность за человеческое суждение.
AI, кажется, может делать всё. Но всё ли он делает хорошо?
AI всё лучше говорит, рассуждает, использует инструменты и всё больше похож на «партнёра по исследованиям», с которым можно сотрудничать. Но действительно ли он понимает или же очень искусно имитирует понимание?
Более сорока лет назад Сёрл своим мысленным экспериментом «Китайская комната» поставил под сомнение, может ли чисто синтаксическая операция порождать семантическое понимание. Сегодня большие языковые модели ставят этот вопрос перед каждым: как мы можем судить, что именно поняла большая модель, а что упустила?
Важным выводом Синей книги является то, что человеческий интеллект — это не простой процесс «ввод — вывод». Человек способен понимать мир, потому что восприятие и внимание организуют внешние стимулы в контекст, память и когнитивные карты организуют прошлый опыт в структуры, которые можно переносить и использовать для рассуждений, а эмоции и ценности определяют, какая информация важнее и какие цели более достойны преследования.
Первый шаг к совместной работе человека и интеллекта — не заставить AI работать, а сначала чётко определить разделение труда между человеком и AI. AI может помочь нам идентифицировать объекты, находить информацию, генерировать текст, но он легко переписывает сложный социальный опыт в формат, который ему легче обрабатывать, превращая проблемы, требующие настоящего понимания, в проблемы, которые кажутся уже решёнными. Нам нужно перейти от распознавания объектов к пониманию контекста, от хранения информации к организации опыта, от генерации к ценностным суждениям и саморефлексии.
Поэтому когнитивная наука становится особенно важной. Она говорит нам, что глубокое мышление — это не способность, противопоставленная AI, а способность, которую ещё больше необходимо активировать при взаимодействии человека и машины. По-настоящему ценный когнитивный AI не должен просто давать единственный, плавный, определённый ответ, а должен помогать человеку ставить вопросы, сравнивать доказательства, сохранять инициативу в суждениях.
Статьи пишутся всё быстрее. Кто гарантирует их достоверность?
После проникновения AI в науку наиболее заметным изменением стала скорость. Организация литературы, очистка данных, генерация кода, создание графиков и черновиков статей — всё это можно выполнить за очень короткое время. Исследователь не обязан тратить драгоценное время на рутинную работу, и наличие у учёного мысли не должно доказываться тем, сколько раз он вручную отредактировал формат библиографии.
Но скорость исследований и скорость получения знаний — не одно и то же. Быстрая генерация статьи не означает, что концепции уже прояснены, данные поняты, причинно-следственные связи установлены. Языковые модели особенно хорошо умеют организовывать разрозненные материалы в связное повествование, а самый опасный момент в академических исследованиях часто наступает, когда повествование кажется слишком связным.
Риски также скрываются в тех этапах, которые кажутся всего лишь «техническими операциями». Как выбираются переменные, как конструируются показатели, с какого года начинается выборка, какие случаи включаются — за всем этим стоят теоретические суждения.
У машины, конечно, нет злого умысла, ей достаточно допустить небольшую ошибку на первом шаге и оставаться уверенной в себе на последующих двадцати.
Другой риск исходит от автоматического поиска моделей. AI может постоянно пробовать различные комбинации переменных, настройки параметров и интервалы выборки, пока не найдёт результат с более высокой значимостью, лучшей подгонкой (fitting) и более красивыми графиками. Раньше «пробовать, пока не станет значимым» ограничивалось временем и энергией; теперь интеллектуальные агенты могут искать без устали. С ростом эффективности статистические случайности тоже могут быть более эффективно упакованы в теоретические открытия.
Настоящий вызов, который несёт автоматизированная наука, заключается не только в том, может ли машина ошибаться, а в том, можно ли вовремя обнаружить ошибки, можно ли отследить ход исследования, можно ли перепроверить окончательные выводы.
Когда AI принимает решения, кто несёт ответственность?
Способность AI распознавать и классифицировать людей быстро растёт. Он может выявлять запросы, оценивать риски, проверять материалы, подбирать политики, а также предоставлять рекомендации для принятия решений сотрудникам.
Привлекательность таких систем очевидна: они быстрее человека, не устают и не меняют ритм обработки из-за стресса или перепадов настроения.
Однако отсутствие усталости и справедливость — не одно и то же.
Исследования, цитируемые в Синей книге, показывают, что при анализе постов на медицинских форумах и интервью с иностранными студентами исследователи-люди могли распознать тонкие нюансы, такие как взаимодействие врача и пациента, культурная ответственность и т.д., в то время как большие модели склонны обобщать их до более обычных, стандартизированных категорий.
Модель не совсем лишена понимания. Она просто очень искусно переписывает то, что ей трудно понять, в форму, которую ей легче обрабатывать.
В публичном управлении такое упрощение может напрямую влиять на права и условия жизни людей. Синяя книга различает два режима внедрения AI.
Первый — «агентский» режим. Алгоритм становится актором, проходя путь от ввода информации до вывода решения, а человек появляется снова только при сбое системы или жалобе заинтересованного лица. Второй — «вспомогательный» режим. AI отвечает за поиск, вычисления, указание рисков и генерацию вариантов, а окончательное решение принимает человек.
Разница между двумя режимами не в количестве используемых технологий, а в том, произошёл ли перенос власти.
Конечно, если в нормативных документах написано «человек в контуре» (human-in-the-loop), это не гарантирует, что человек действительно остаётся в нём. Если сотрудник может лишь нажать «подтвердить» после вывода алгоритма, то так называемая ручная проверка — это просто замена машинного решения нажатием человеческого пальца.
Человеческая роль должна обладать правом вмешательства, правом исправления и правом объяснения, иначе ручная проверка превратится в представление ответственности (performance of responsibility).
Когда AI начинает влиять на права людей, вопрос не может оставаться на уровне «точна ли модель», необходимо также чётко определить, кто развёртывает систему, кто проверяет, кто объясняет, кто принимает жалобы и несёт окончательную ответственность.
Ответственность можно разделить, но нельзя допустить, чтобы из-за слишком тонкого разделения она в итоге испарилась.
Глубокое мышление — это не просто «подумать подольше»
«Глубокое мышление» звучит как личное достоинство: столкнувшись с проблемой, не спеши отвечать, подумай подольше. Но по-настоящему значимое глубокое мышление должно быть встроено в исследовательские процессы, процедуры управления и организационные системы. Оно требует не только большей осторожности от личности, но и от системы — сохранения условий, позволяющих человеку быть осторожным, сомневаться и исправлять ошибки.
AI может помочь, но цепочку доказательств нельзя пропускать
Глубокое мышление не означает отказ от AI. Нет необходимости, чтобы доказать человеческое достоинство, настаивать на личной обработке тысяч материалов или тратить целый день на настройку формата библиографии.
Ключевой момент: работу можно поручить AI, но цепочку доказательств нельзя передавать вместе с ней. AI может искать литературу, обрабатывать данные, запускать код, но исследователь по-прежнему должен оценивать: стоит ли ставить вопрос, точно ли концепция преобразована в показатели, подтверждают ли связи в данных причинно-следственное объяснение, и к каким пределам применимы выводы.
Представленная в Синей книге структура STRIDES пытается разбить сложное исследование на этапы: теория, метод, данные, исполнение и проверка, и устанавливает контрольные точки на ключевых этапах: гипотезы должны быть чётко прописаны, доказательства должны быть локализуемы, данные и код должны сохранять версионность, выводы с высоким риском или низкой степенью уверенности снова передаются на человеческое суждение.
Обзор системы STRIDES: замкнутый рабочий процесс от проектирования исследования до состязательной проверки (adversarial review).
После участия AI в исследованиях результатом исследования не должна оставаться только итоговая статья. Вопрос исследования, словарь данных, скрипты анализа, записи выполнения, замечания рецензентов и решения, принятые человеком, также должны сохраняться, чтобы можно было видеть, откуда пришёл результат, на каком этапе могла возникнуть ошибка, какие изменения были внесены.
Наука заслуживает доверия не потому, что выводы приходят быстро, а потому, что другие могут пройти по цепочке доказательств заново.
В интервью команда дала простой совет для самопроверки: если вы отключите модель, сможете ли вы своими словами объяснить, в чём заключается проблема, откуда взялись доказательства, на каких предположениях основываются выводы, какие могут быть контрпримеры и каковы границы применимости?
Если вы можете сказать только «он говорит очень логично», но не можете объяснить почему; если проблема постепенно превращается в проблему, на которую модели легко ответить; если текст становится всё более гладким, а ваша собственная точка зрения — всё более расплывчатой, то, скорее всего, AI уже превратился из помощника в выражении мыслей в суррогат суждения.
Правила не должны оставаться только лозунгами
Об управлении AI уже выдвинуто множество правильных принципов: справедливость, прозрачность, безопасность, ориентация на человека, защита приватности, ответственность.
Проблема в том, что если принципы не превращаются в процедуры, они легко остаются только на совещаниях и в документах.
Система, в которой есть только принципы, но нет механизмов исполнения, похожа на человека, у которого есть идеалы, но нет будильника. Каждый день он собирается делать правильные вещи, просто никогда не просыпается в нужное время.
В Синей книге подчёркивается, что управление AI должно охватывать весь жизненный цикл системы: оценка рисков и границ применимости до развёртывания, запись ключевых решений, мониторинг аномалий и сохранение возможности человеческого вмешательства во время работы, возможность пересмотра, исправления и привлечения к ответственности при возникновении проблем.
Системы с разным уровнем риска также не должны подчиняться одинаковым правилам управления. Обычный поиск информации и организация текста могут быть менее регулируемыми; системы, затрагивающие общественную безопасность, важные права и ключевые решения, должны подвергаться более строгим требованиям к тестированию, аудиту и развёртыванию.
Управление также не должно ограничиваться «информированием». Люди, на которых это влияет, должны знать, на основании чего принимается решение, что они могут оспорить, кому подать возражение, иметь возможность потребовать ручной проверки и получить реальное средство правовой защиты в случае ошибки. В противном случае обязанность информирования легко превращается в технический документ, который никто не понимает, а канал подачи жалоб может остаться лишь веб-страницей.
Конечно, управление — это не нажатие на тормоз технологий. Это больше похоже на строительство дороги: где можно увеличить скорость, где её нужно ограничить, где нужны ограждения, кто отвечает в случае аварии. Дорога без правил не означает свободы, обычно она означает лишь то, что сильные едут быстрее, а остальным — самим быть осторожнее.
AI умеет организовывать ответы, но человек должен определять направление
AI очень хорошо умеет отвечать на уже поставленные вопросы. Но по-настоящему сложные социальные проблемы обычно заключаются не в отсутствии ответа, а в отсутствии стандартного ответа, с которым согласились бы все.
Когда эффективность и справедливость вступают в конфликт, чему отдать приоритет? Когда технологические инновации приносят общую выгоду, но заставляют часть людей нести больше издержек, что считать разумным? Когда общественные интересы и индивидуальные права вступают в противоречие, где следует провести границу?
Эти проблемы не исчезнут автоматически с увеличением масштаба параметров.
Синяя книга конкретно обобщает «обратное наделение возможностями» (reverse empowerment) гуманитарными и социальными науками AI: это не абстрактные моральные рассуждения на фоне технологий, а превращение ценностных конфликтов в анализируемые компромиссы, преобразование социальных последствий в измеримые показатели и предоставление технологическому развитию более направленных и объяснимых интеллектуальных рамок.
Модель может рассказать нам, какие последствия могут повлечь разные варианты выбора, но она не может сама по себе решить, какая часть людей должна заплатить за общую эффективность, и не может решить, стоят ли эти издержки того.
Большая модель ранней китайской цивилизации, обсуждаемая в Синей книге, — один из примеров. Исторические документы, найденные надписи, изображения артефактов, информация о памятниках и географические данные раньше были разбросаны по разным базам и экспертной памяти; многомодальная модель может организовать их в единое пространство знаний, позволяя взаимно сверять доказательства из разных источников.
Её значение не только в повышении эффективности поиска, но и в изменении способа организации доказательств. Но чем больше материалов связывается, тем больше экспертам нужно судить: какие связи имеют историческое значение, а какие лишь поверхностно схожи; какие повествования основаны на надёжных доказательствах, а какие лишь более гладко организованы моделью.
Именно поэтому гуманитарные и социальные науки нельзя сводить к «указанию на ошибки AI». Они не только отвечают за выявление предубеждений, рисков и уязвимостей, но и должны объяснять ценностные конфликты, анализировать институциональные последствия, понимать положение конкретных людей и помогать обществу формировать суждения, которые оно может совместно нести.
Технологии решают вопрос «что можно сделать», а гуманитарные и социальные науки продолжают спрашивать «зачем это делать», «до какого предела следует делать», «кто несёт издержки».
Недостаточно полагаться на несколько команд
Говоря о слиянии AI и гуманитарных/социальных наук, люди склонны думать о нескольких лабораториях, нескольких звёздных достижениях и небольшом числе исследователей, разбирающихся и в технологиях, и в социальных науках.
Это, конечно, важно, но нельзя полагаться только на это.
Чтобы область сформировала долгосрочные возможности, необходима совместная поддержка со стороны данных, вычислительных мощностей, моделей, инструментальных цепочек, подготовки кадров, организационного взаимодействия и оценочных систем. Синяя книга особо напоминает, что инфраструктура AI4SSH — это не покупка большего количества машин и не размещение нескольких моделей на одной веб-странице, а комплексное строительство многомодальной основы данных, вычислительной среды, предметно-ориентированных моделей, интеллектуальных агентов, инструментальных цепочек и механизмов сотрудничества.
Купить вычислительные мощности относительно легко, установить общие правила для данных — трудно; выпустить модель относительно легко, заставить разные дисциплины по-настоящему понять проблемы друг друга — трудно. Настоящая задача — превратить разрозненные проекты в организационные возможности, которые могут устойчиво функционировать.
Что ещё важнее, необходимо совместное планирование для новых дисциплин, таких как когнитивная наука. Когнитивная наука связывает философию, психологию, нейронауки, компьютерные науки, лингвистику и социальные науки. Она помогает нам понять человеческий интеллект, а также переосмыслить и калибровать машинный интеллект. Для вузов строительство таких фундаментальных дисциплин может не сразу соответствовать демонстрируемому приложению, но определяет, сможет ли будущее сотрудничество человека и интеллекта перейти от использования инструментов к смене парадигм (paradigm innovation).
На этой основе Синяя книга строит «Индекс AI4SSH китайских вузов», развивая его по трём измерениям: ключевые исследовательские способности, потенциал инновационного развития и способности к социальному распространению, включая 3 показателя первого уровня, 7 показателей второго уровня и 10 показателей третьего уровня.
Он предоставляет структурированное окно для наблюдения: в каких вузах уже сформировалась стабильная система междисциплинарных исследований, какие всё ещё остаются на уровне разрозненных проектов; у кого есть исследовательские результаты, но не хватает институциональной поддержки; у кого есть академические достижения, но они ещё не превращены в общественное влияние и социальные услуги.
Общий вывод Синей книги заключается в том, что развитие AI4SSH в китайских вузах уже демонстрирует структуру «начального построения системы с чёткой градацией», где результаты исследований и интеграция с местным контекстом продвигаются быстро, но сохраняются слабые места в области международного академического влияния, первоначальных инноваций, институциональной поддержки и преобразования в социальные услуги.
Следовательно, оценивая развитие AI4SSH, нельзя смотреть только на количество моделей, статей и проектов, нужно также смотреть, могут ли данные, инструменты, нормы, кадры и механизмы сотрудничества функционировать в долгосрочной перспективе. Технологии могут быстро обновляться, а институты и организации учатся только медленно; именно эти части, которые не так легко превратить в демонстрационное видео, и определяют, как далеко смогут пойти AI и гуманитарные/социальные науки.
Заключение: чем лучше AI отвечает, тем больше человек должен знать, что спрашивать
В предисловии к Синей книге секретарь парткома Фуданьского университета Цю Синь напутствует читателей, чтобы в эпоху интеллекта они «всегда охраняли мысль, оттачивали мышление, сохраняли спокойствие и решимость для самостоятельного размышления, рационального суждения, вопрошания о ценностях, ясного различения и выбора, ведя глубиной мысли перемены интеллекта».
Это и есть отношение, которое хочет передать эта Синяя книга. Это не просто наблюдение за очередным технологическим изменением, но и коллективное размышление гуманитарных наук Фуданя в интеллектуальную эпоху.
По-настоящему важно: прежде чем автоматически генерировать, сначала решить, какие проблемы стоит ставить; после того как модель даёт выводы, продолжать спрашивать, достоверны ли доказательства; до того как технологии войдут в общество, чётко определить их границы и ответственность; среди множества возможных будущих путей сохранить ценностное суждение и выбор направления за человеком.
Нам больше не нужно продолжать доказывать, в каких задачах человек быстрее машины, а нужно заново подтвердить незаменимость человеческого суждения и ответственности в производстве знаний и функционировании общества.
Машина может помочь нам достичь многих мест. А вот почему отправляться в путь, куда следует идти и какую жизнь мы хотим жить, достигнув цели — эти вещи, пожалуй, ещё нельзя полностью доверить ей.
Синяя книга будет официально представлена 17 июля на форуме WAIC 2026 «Глобальное управление искусственным интеллектом и устойчивое развитие». Полный текст для скачивания будет доступен на официальном ресурсе Национальной лаборатории комплексного развития и интеллектуального управления Фуданьского университета.
Эта статья взята с официального аккаунта WeChat «Машина почти человек» (ID:almosthuman2014), автор: Гуаньчжу AI.
