Кто бы мог подумать, что философия, эта непопулярная специальность, стала сегодняшним хитом в сфере ИИ.
Это стало для нас неожиданным открытием в ходе посещения WAIC в этом году — содержание философии оказалось довольно высоким.
△
Например, на параллельной секции «Сознание и интеллект · Форум молодёжной экосистемы» в рамках Открытого форума по научному интеллекту WAIC, первым выступающим гостем стал профессор Школы философии Университета Фудань Сунь Нин; на основном обсуждении «Исконные инновации в эпоху AI Native» на Открытом форуме по научному интеллекту профессор Школы философии Университета Фудань Сунь Сянчэнь также занял место в диалоге на высшем уровне.
Неслучайно, что в период WAIC Лаборатория всестороннего развития и интеллектуального управления Университета Фудань опубликовала «Синюю книгу по интеллектуальному развитию гуманитарных и социальных наук 2026», вновь выведя на первый план глубокое мышление, достоверность исследований и управление ИИ.
Но, честно говоря, эта кажущаяся внезапной горячая волна философии имеет свои следы.
Несколько лет назад, посещая конференции по ИИ, больше всего говорили о параметрах, вычислительной мощности и рейтингах; а теперь ИИ уже может писать статьи, доказывать математические теоремы, генерировать конформации белков и даже моделировать общество с помощью группы агентов.
Хотя возможности ИИ стремительно развиваются, возникающие проблемы также всё больше приближаются к философским:
- Означает ли способность модели плавно отвечать на вопросы, что она действительно понимает?
- Если ИИ может самостоятельно открывать знания, можно ли считать его новым учёным?
- Если ИИ обнаружит закономерности, которые люди не могут объяснить, но которые могут быть проверены экспериментально, должны ли мы им доверять?
В своём выступлении под названием «Прежде чем интеллект, существует мир» Сунь Нин вернулся к истокам проблемы.
Ещё в 1990-х годах когнитивный учёный Стеван Харнад поставил проблему обоснования символов, задаваясь вопросом, как символические системы получают реальное значение через восприятие и взаимодействие. Примерно в то же время инженер-робототехник Родни Брукс выдвинул гипотезу физического обоснования, оставив весьма влиятельную фразу — мир сам по себе является лучшей моделью.
△
Следуя этой линии мысли, Сунь Нин предложил, что глубоко укоренённый в мире интеллект, по крайней мере, требует наличия тела, среды, других существ и истории. Тело делает действия платными, среда предоставляет обратную связь, другие существа привносят нормы, а история позволяет неудачам превращаться в опыт.
В итоге он сформулировал это в двух фразах:
Прежде чем интеллект, существует мир. Прежде чем разум, существует связь.
Это также задало тон обсуждению в тот день.
Этот молодёжный форум был организован Лабораторией всестороннего развития и интеллектуального управления Университета Фудань, Шанхайским исследовательским институтом научного интеллекта, Школой философии Университета Фудань, Шанхайским исследовательским институтом будущих технологий Фудань в Цинпу и Datawhale.
На сцене были как молодые учёные, так и философы, социологи и предприниматели. Обсуждение варьировалось от самоэволюционирующих моделей до математических доказательств, от динамики белков до социального моделирования, а затем сфокусировалось на вопросах управления и индустрии.
Проблемы, казалось бы, разбросанные по разным дисциплинам, были таким образом связаны воедино.
ИИ начал самостоятельно заниматься наукой
Как только философы задались вопросом «Что такое интеллект?», основатель SuperDerive Intelligence Чэнь Юнчао предложил более конкретный вопрос — Может ли ИИ стать новым учёным?
△
Ранние большие модели в основном изучали существующие человеческие знания из интернет-данных. Самоэволюционирующие модели, о которых говорит Чэнь Юнчао, стремятся войти в реальные задачи и непрерывно обучаться на основе исследовательских процессов и обратной связи от среды.
Конкретно, модель может самостоятельно генерировать идеи, писать код, проводить эксперименты, анализировать данные, а затем использовать траектории успехов и неудач для дальнейшей настройки данных, модели и инструментария.
Чэнь Юнчао также продемонстрировал на месте весьма впечатляющие результаты.
Разработанная его командой система Apex Search сгенерировала 34 статьи и представила их в академические рецензируемые системы, такие как ACL, ARR. Согласно результатам, раскрытым им на месте, около 10 из них имели шанс войти в Findings или основную программу, две статьи получили оценку 3,67, что выше примерно 95% представленных человеком работ.
Некоторые рецензенты даже дали такие оценки, как «первое исследование в области», «строгие эксперименты», «постановка проблемы точно по существу».
Другими словами, научные результаты, сгенерированные ИИ, уже способны пройти первоначальную проверку человеческими рецензентами.
Но вместе с этим возникли и проблемы.
На последующем круглом столе «Перемены в обществе», профессор Школы больших данных Университета Фудань Вэй Чжунъюй отметил, что если ИИ генерирует и представляет десятки статей за раз, и в итоге несколько получают высокие оценки, как именно мы должны оценивать его исследовательские способности? Означает ли это, что способность системы к исследованиям достигла уровня публикаций в топ-конференциях, или ей просто удалось найти уязвимые места в существующем механизме коллегиального рецензирования?
Когда статьи генерируются всё быстрее, оценка может стать сложнее, чем генерация.
Сам Чэнь Юнчао оставил серию вопросов. Может ли ИИ совершить прорыв уровня Transformer? Как оценивать огромное количество научных открытий? Кому принадлежат научные результаты ИИ? Если система используется для вредоносных исследований, как распределить ответственность?
Следующий выступающий, доцент-исследователь Шанхайского математического центра Университета Фудань Ван Тяньдун, предложил более чёткое разделение труда между человеком и машиной.
△
ИИ хорош в поиске, обобщении, нахождении частных случаев и контрпримеров, а также может одновременно генерировать десятки кандидатных путей доказательства. Математик отвечает за определение важности проблемы, стоит ли исследовать гипотезу, а также применяет строгие концепции и структуры для ограничения результатов. Наконец, добавляется машинная проверка для контроля за пропусками в рассуждениях или ошибками в вычислениях.
Проще говоря:
ИИ расширяет пространство поиска, человек определяет ценность, машина отвечает за проверку.
В этой схеме математика может предоставить ИИ структурные ограничения, формальную верификацию, анализ ошибок и границы применимости. Достоверность также не означает вечную безошибочность; более реалистичным стандартом является возможность обнаружения ошибок, определения рисков и проверяемости выводов.
Затем учёный по ИИ Шанхайского исследовательского института научного интеллекта Ян Цзысюн перенёс вопрос достоверности в более сложный мир жизни.
△
AlphaFold решает ключевую проблему вывода вероятной статической структуры из последовательности. Но белки, РНК и другие биомолекулы постоянно находятся в движении, и многие функции зависят от распределения конформаций, перехода состояний и временных масштабов.
Следовательно, исследовательская цель в эпоху после AlphaFold смещается от «предсказания одной структуры» к «генерации динамики».
Это означает, что модель должна охватывать редкие, но важные конформации, поддерживать структурную стабильность при длительной генерации, а также удовлетворять термодинамическим, динамическим и физическим законам. Для статических структур накоплено много данных, тогда как данные по динамике молекул весьма ограничены, и соответствующая система оценки также нуждается в совершенствовании.
От математических доказательств до динамики белков ИИ действительно может проводить исследования быстрее и шире. Но как только дело доходит до эффективных научных открытий, без доказательств, экспериментов и обратной связи от реального мира не обойтись.
Если у математики и наук о жизни есть относительно чёткие пути проверки, то когда ИИ начинает моделировать человека и общество, всё становится ещё сложнее.
Когда интеллект проникает в общество, управление не должно отставать
Молодой учёный Шанхайской лаборатории искусственного интеллекта Цюй Цзинцзин исследует именно пересечение ИИ и социальных наук.
△
По её мнению, социальные науки являются основополагающей основой развития ИИ. Исследование Алана Тьюринга о «Может ли машина мыслить?» было опубликовано в философском журнале «Mind»; Герберт А. Саймон предложил теорию ограниченной рациональности, совместно с Алленом Ньюэллом основал гипотезу физической символьной системы, положив начало символьному ИИ; Джеффри Хинтон, объединив психологию и когнитивную науку, разработал нейронные сети для моделирования механизмов человеческого мозга, что способствовало наступлению эпохи больших моделей.
И сейчас эти отношения начинают работать в обратном направлении: ИИ также приносит новые экспериментальные методы в социальные науки. Однако, когда ОИИ движется в направлении социализации и масштабирования, остаётся ключевая проблема: в крупномасштабных, сложных эволюционных социальных играх трудно одновременно обеспечить логическую согласованность и достоверность экспериментальных результатов.
Цюй Цзинцзин продемонстрировала платформу социального моделирования Epitome. С точки зрения высокой пропускной способности платформа может одним щелчком генерировать тысячи виртуальных образцов, сжимая десятилетний процесс социальной эволюции до 14 часов. Исследователи могут свободно настраивать переменные, такие как политика вмешательства, групповые отношения, и быстро наблюдать их долгосрочное социальное воздействие.
Такие методы особенно подходят для экспериментов, которые трудно провести непосредственно в реальном мире.
Например, как смоделировать взросление ребёнка с третьего по пятый класс? Модель должна отражать не только изменения в знаниях, но и моделировать психологию, поведение и социальные отношения. Исследователи также хотят протестировать в этой виртуальной среде различные образовательные политики и наблюдать, какие подходы более благоприятны для развития детей.
Хотя идея привлекательна, в ней также скрыты риски.
Ведь большая модель может смоделировать эксперта, но не обязательно точно смоделировать ребёнка в конкретной семье, регионе и социальных отношениях. Проявляемые виртуальным персонажем установки — это отражение реальных социальных закономерностей или стереотипов из обучающих данных?
На круглом столе «Перемены в обществе» исследователь программы «Сто талантов», доктор философии и научный руководитель Школы государственного управления Чжэцзянского университета Цзян Чжожэнь поделился ещё более настораживающими данными.
В исследовании транснационального доверия, данные, сгенерированные большой моделью, на уровне средних значений по странам показали корреляцию выше 90%. Однако при переходе к регрессионному анализу степень значимости снизилась до 34%-37%; когда исследователи попытались использовать эти данные для восстановления типов стран, результат оказался близок к случайному.
Другими словами, модель может казаться похожей на реальное общество на макроуровне, но как только дело доходит до конкретных групп населения и причинно-следственных связей, проявляются отклонения.
Ещё более проблематично, что социальные данные могут формировать цикл.
Предубеждения из реальности попадают в обучающие данные, модель затем участвует в найме, образовании, распространении контента и принятии публичных решений, а новые результаты становятся материалом для следующего цикла обучения. При отсутствии аудита и корректировки существующие предубеждения могут постоянно усиливаться в этом цикле.
Поэтому на круглом столе прозвучало прямое предупреждение:
Большие модели можно использовать для моделирования общества, но не следует принимать результаты моделирования за голос реального общества.
Когда ИИ проникает в общество, управление также не может ограничиваться уровнем «точности модели».
Круглый стол «Вопросы о сознании» затрагивал риски атак, вредоносных биологических исследований, психологической зависимости. Младший научный сотрудник Института этики науки и будущего человечества Университета Фудань Чжу Линьфань также упомянул, что текущее управление ИИ в целом сталкивается с дилеммой «жёсткий контроль ведёт к застою, либерализация — к хаосу», и для поиска более детальных решений необходимы совместные усилия технологий, политики, этики и международного сотрудничества.
Исследователь Шанхайского исследовательского института будущих технологий Фудань в Цинпу Ма Липэн дополнил с технической точки зрения. Современный ИИ может ответить почти на что угодно, но ему недостаёт метакогнитивной способности «знать, чего он не знает». Только после того, как ИИ осознает свои возможности и границы, последующая оценка и управление будут иметь более чёткие точки приложения. Для этого также необходимо участие различных дисциплин: философии, педагогики, информатики и других.
Вопрос ответственности также становится всё более сложным.
Когда агенты ИИ обладают большей активностью, могут ли они стать действующими лицами в юридическом или моральном смысле? Если они не могут нести ответственность самостоятельно, как следует распределять ответственность между разработчиками, внедряющими, пользователями и конечными лицами, принимающими решения?
Рассуждая об этом, нетрудно понять, почему Лаборатория всестороннего развития и интеллектуального управления Университета Фудань появилась в списке организаторов этого научного интеллектуального форума.
Исследовательская сфера этой лаборатории охватывает искусственный интеллект, большие данные, гуманитарные и социальные науки, государственное управление и является одной из первых ключевых лабораторий по философии и социальным наукам Министерства образования. Её важная задача — наблюдать за технологическими изменениями в контексте реального общества и институциональной среды, а затем содействовать соединению академических исследований и потребностей политики.
Возглавляемая ею экосистема «ИИ + новые гуманитарные науки» Университета Фудань, совместно с Шанхайским исследовательским институтом научного интеллекта и при участии более 40 экспертов из почти 20 дисциплин, подготовила «Синюю книгу по интеллектуальному развитию гуманитарных и социальных наук 2026», пытаясь превратить многие абстрактные принципы управления в реализуемые исследовательские и институциональные процессы.
Например, когда ИИ входит в научные исследования, в итоге не должна оставаться только одна бегло написанная статья. Исследовательский вопрос, словарь данных, сценарии анализа, записи выполнения, рецензии и решения человека также должны сохраняться, чтобы другие могли повторить весь путь по цепочке доказательств.
Предложенная в «Синей книге» структура STRIDES устанавливает контрольные точки на этапах теории, метода, данных, выполнения и проверки. Какие предположения нужно чётко указать, какие доказательства требуют определения, какие выводы с низкой достоверностью нужно повторно передавать на человеческое суждение — всё это включено в процесс.
В сфере государственного управления вопросы становятся ещё более прямыми.
В Синей книге различаются два режима внедрения ИИ: агентский и вспомогательный. В первом режиме алгоритм участвует в процессе вплоть до получения результата, человек же появляется, как правило, только при сбоях системы или апелляциях; во втором режиме ИИ берёт на себя поиск, вычисления, предупреждение о рисках и генерацию вариантов, а окончательное решение принимает человек.
И так называемое «присутствие человека в контуре» не должно сводиться к одной кнопке подтверждения. Человек должен обладать правом вмешательства, корректировки и разъяснения.
С этой точки зрения, управление больше похоже на строительство дороги для технологий. Какие сценарии можно ускорить, где нужны ограждения, кто будет перепроверять, объяснять и нести ответственность в случае возникновения проблем — всё это должно быть заранее прописано в правилах.
Кроме того, версия «Синей книги» 2026 года также построила «Индекс AI4SSH китайских вузов», который наблюдает за степенью интеграции ИИ с гуманитарными и социальными науками в университетах по таким параметрам, как ключевые исследовательские компетенции, потенциал инновационного развития и способность к социальному распространению.
Передаваемый ею вывод очевиден. Для формирования долгосрочных компетенций в области недостаточно нескольких статей и моделей; необходимо наращивать данные, вычислительные мощности, инструментальные цепочки, подготовку кадров, организационное сотрудничество и системы оценки.
В этом и заключается значение соединения академических кругов и политики Лабораторией всестороннего развития и интеллектуального управления. Технологии предоставляют новые возможности, социальные науки объясняют воздействие, экономика изучает стимулы и распределение, а исследования в области управления превращают эти знания в процедуры и институты.
В Шанхае академия, политика и индустрия соединились в единую цепь
Проблемы управления, продолжая развиваться, в конечном итоге сталкиваются с индустрией.
Исследователь Шэньчжэньского института передовых технологий Китайской академии наук, основатель Senris Biotechnology Ло Сяочжоу на месте привёл очень показательное различие.
△
Когда ИИ пишет код или занимается математикой, многие процессы могут быть завершены в рамках компьютерного цикла. Но в биопроизводстве ещё предстоит преодолеть барьер между цифровым и физическим мирами.
После того как модель выдвигает научную гипотезу, экспериментальное оборудование должно её материализовать, а затем передать результаты измерений обратно модели. Если какой-либо этап не налажен, самоэволюция останавливается.
Команда Ло Сяочжоу, опираясь на крупное научно-техническое сооружение Шэньчжэня по синтетической биологии с инвестициями свыше 2 млрд юаней, использует автоматизированное оборудование в качестве «тела и рук», а ИИ возлагает на проектирование экспериментов и принятие решений. Они надеются, что после ввода требования система сможет автоматически проектировать эксперименты, писать сценарии, выполнять операции, собирать данные и переходить к следующему циклу оптимизации.
Соответствующие технологии уже применяются в разработке и производстве таких продуктов, как сквален и сквалан. В частности, продукт сквален вошёл в цепочку поставок Merck, а сквалан — в косметическую цепочку поставок.
Но глубокая интеграция науки и индустрии — это не только модель.
Круглый стол «Путь к применению» прошёл весьма откровенно. ИИ может ускорить дизайн антител, оптимизацию белков и модификацию штаммов, но далее следуют мокрые эксперименты, клинические испытания, одобрение регуляторов, технология, производство и рынок.
Сооснователь и старший вице-президент Megarobo Technology Чжан Янь обобщил сложности как «последний километр» внедрения ИИ в физический мир. По его мнению, лабораторная автоматизация и робототехника уже относительно зрелы, сложнее — это действительно объединить ИИ, программные системы, приборы и конкретные дисциплинарные потребности. Для этого Megarobo Technology попыталась сделать так, чтобы приборы и роботы в лаборатории управлялись как компьютерные периферийные устройства, а затем соединить модели, автоматизированные эксперименты и обратную связь по данным в замкнутый цикл.
Если на верхнем уровне сокращается время разработки, узкое место, скорее всего, сразу сместится на следующий этап. Если регулирующие системы, отраслевые традиции и организационные процессы не изменятся синхронно, ускорение, обеспечиваемое технологиями, также будет трудно передать по цепочке создания стоимости.
Конечно, проблема денег также неизбежна.
Если стороны, предоставляющие данные, стороны, разрабатывающие модели, платформы для автоматизированных экспериментов и отраслевые клиенты совместно создают результат, как следует взимать плату и как распределять доход? Чжан Янь также высказался прямо: новые производительные силы изменяют производственные отношения, помимо «как заработать деньги», нужно также чётко понимать, «как делить деньги» между сторонами в цепочке.
Звучит очень приземлённо, но попадает в суть глубоких изменений, происходящих при проникновении ИИ в индустрию.
Раньше стороны получали оплату по этапам работы; теперь ИИ стимулирует переход отрасли от поэтапной поставки к поставке по результату, и участники начинают совместно нести ответственность за конечный результат.
Новые производительные силы также порождают новые производственные отношения.
Это также относится к сфере управления ИИ. Помимо безопасности, этики и прав, необходимо изучать, как распределять технологические дивиденды, как корректировать отраслевые правила и как традиционное регулирование может адаптироваться к новой скорости научных исследований.
Оглядываясь назад, состав участников этого молодёжного форума действительно интересен.
Кто-то исследует самоэволюционирующие модели, кто-то устанавливает доверенные границы для ИИ, кто-то изучает динамику белков и социальное моделирование, есть и редактор журнала, который с точки зрения системы академической оценки задаётся вопросом, какие реальные проблемы решают исследования ИИ; а также те, кто перешли из лабораторий в предпринимательство, продвигая научные результаты до уровня автоматизированных экспериментов и промышленного производства.
Они представляют разные специальности и организации, но собрались вместе в Шанхае.
В тот же день днём, на основном заседании Открытого форума по научному интеллекту обсуждение развернулось по направлениям «Путь открытий, основа замыкания цикла, путь внедрения», где лауреат Нобелевской премии по химике Ариэ Варшель, лауреат премии Тьюринга Жиль Брассар и другие гости обсуждали научный интеллект и первоначальные инновации.
Молодёжный форум же направил внимание на достоверность исследований, социальное управление и отраслевые цепочки.
С одной стороны, обсуждали, как далеко может зайти научный интеллект, с другой — продолжали задаваться вопросом, как ему стабильно войти в реальность.
За этим стоит формирующаяся в Шанхае экосистема молодёжного научного интеллекта.
Шанхай предоставляет университеты, научно-исследовательские учреждения, промышленные ресурсы и платформы для изучения политики, а молодые люди здесь преодолевают дисциплинарные границы, помещая модели, общество и индустрию в одну систему вопросов.
Поэтому то, что философия вновь стала популярной в кругах ИИ, — это лишь видимая часть этих изменений.
На более глубоком уровне ИИ уже проникает в производство знаний и функционирование общества, а технологические проблемы начинают переплетаться с вопросами управления, экономики, этики и публичной политики.
Чем лучше ИИ отвечает, тем серьёзнее человеку нужно решать, что спрашивать, во что верить и куда направлять технологии.
Статья из WeChat Official Account «Квантовый бит» (ID: QbitAI), автор: Цзинь Лэй.
