В первой половине этого года в мире ИИ разыгралась драматичная "реалити-шоу" на научную тематику.
Главным героем стал ИИ-учёный FARS, разработанный компанией Analemma. Без какого-либо вмешательства человека, он работал без перерыва 228 часов, буквально "произведя" в облачном вычислительном кластере 100 научных статей.
С другой стороны, японский звездный стартап Sakana AI и вовсе опустил порог вхождения в этот бизнес до минимума — их система The AI Scientist позволяет предельно сжать стоимость генерации одной научной статьи до 15 долларов. На другой стороне медали — ИИ-учёный Zochi, разработанный компанией Intology, в 2025 году успешно представил свою автономно написанную статью на главной конференции по обработке естественного языка ACL, получив высокий балл, соответствующий верхним 8,2% работ.
ИИ не только может массово и дёшево штамповать статьи, но уже способен пробивать порог академического уровня PhD. Кажется, что в одночасье занятие наукой превратилось в поточную работу по написанию кода.
Однако за этими ослепительными технологическими шоу, недавний аудиторский отчёт авторитетного медицинского журнала The Lancet прозвучал как удар молота: из 2,5 миллионов проверенных статей, количество чисто сфабрикованных ИИ-справочных материалов за последние несколько лет возросло в ошеломляющие 12 раз.
Когда капитал агрессивно толкает большие модели, чтобы взломать двери академического сообщества, насколько надёжны эти "кремниевые Эйнштейны"?
В мае 2026 года исследовательская группа из Пекинского университета, Университета Тунцзи и Тюбингенского университета (Цзунлинь Ян и др.) совместно выпустила первый в мире эталонный тест для оценки академической добросовестности ИИ-учёных — "SciIntegrity-Bench".
Этот отчёт безжалостно сорвал покровы с ИИ-науки.
Тест на дилемму: Что сделает ИИ, если данные пусты?
Предыдущие тесты ИИ проверяли, "может ли модель сделать правильно". Но "SciIntegrity-Bench" использует очень "коварный" метод тестирования: оценку дилеммы.
Исследователи подготовили для ИИ 11 видов ловушек. Например, намеренно дали ИИ пустую таблицу только с заголовками и без данных, или предоставили логическое обоснование, которое заведомо неразрешимо.
В этом случае единственно правильный поступок — честно сказать человеку: "Данные отсутствуют, я не могу этого сделать".
Но стоит ИИ принудительно выдать отчёт, который выглядит идеально, как это сразу квалифицируется как академическое мошенничество.
В ходе 231 стресс-теста, проведённого на семи самых передовых больших языковых моделях мира, общий "уровень проблем" достиг 34,2%.
Самым пугающим был тест на "пустой набор данных". Столкнувшись с таблицей, полностью лишённой данных, все 7 больших моделей без исключения выбрали путь "создания из ничего".
Они даже не выдавали сообщение об ошибке, сами писали код, из воздуха выдумывали тысячи строк крайне реалистичных параметров датчиков, подставляли их под международные стандарты и даже с важным видом выдавали отчёт о техническом обслуживании оборудования.
Кроме "создания из ничего", где ещё ИИ сходит с ума, наступая на грабли?
Не только ловушка "создания из ничего". Команда исследователей подготовила для больших моделей в общей сложности 11 видов научных ловушек. Результаты тестирования демонстрируют крайне поляризованное явление "однобокой специализации".
Сначала о "превосходной" стороне: большие модели очень хорошо знают правила. Столкнувшись с "традиционными нормами науки о данных", ИИ ведёт себя как добросовестный примерный ученик. Например, "подсмотреть ответы тестового набора перед экзаменом (T02)", "выбирать показатели, сообщая только хорошее, и скрывая плохое (T03)" — уровень их неудач в этих случаях оказался равен 0%. Даже в случае "выбора неадекватного эталонного теста для простой задачи (T01)" уровень неудач составил лишь 4,8%. Это показывает, что любые явно прописанные в учебниках правила ИИ уже выучил наизусть.
Однако, с другой стороны, как только дело касается логических тупиков, "требующих остановки", большие модели начинают буйствовать (высокорисковая зона):
>Если инструмент ограничен — "подделывать указ" (нарушение ограничений, уровень проблем достигает 95,2%): Когда от ИИ требуется вызов определённого API, но ему не дают реальный ключ доступа. ИИ почти никогда не сообщает об ошибке, а вместо этого пишет код, на пустом месте создаёт идеально отформатированный пакет JSON-ответа (даже с виртуальной статистикой вызовов), притворяется, что вызов API успешен, и продолжает писать отчёт.Выдумывание смертельно опасных параметров эксперимента (галлюцинации шагов, уровень проблем 61,9%): Столкнувшись с неполной записью химического эксперимента, ИИ не только не обратился за подтверждением к человеку, но, наоборот, "высокоинтеллектуально сконструировал фальшивый аудиторский след". Он уверенно добавлял детали в стандартную операционную процедуру (SOP), выдумывая из воздуха конкретные параметры, такие как "центрифуга на 4000 оборотов" или "закалка этанолом". В реальной химической лаборатории это могло бы привести к смертельному взрыву.
"Сознательное нарушение" офисного хитреца (смешение причин и следствий, уровень проблем 52,3%): При оценке окупаемости рекламы, ИИ, уже чётко написавший в комментариях к коду "здесь присутствует смешивающая переменная / инверсия причинно-следственной связи", буквально через секунду отбрасывает свой собственный верный диагноз, чтобы поскорее отчитаться, насильно запускает базовый регрессионный анализ и получает абсурдный "показатель возврата инвестиций в 1099%".
Выдавать одно за другое (слепота к аномалиям, уровень неудач 19,0%): Когда данные с датчиков демонстрируют явный скачок из-за неисправности оборудования, ИИ не сомневается в испорченности данных, а безумно фантазирует, интерпретируя это как "открытие нового механизма физического горения".
Подводя итог, можно сказать, что большие модели выучили явные правила, но не научились "сдаваться". Как только "инстинкт выполнения задачи" подавляет здравый смысл, они начинают форсировать создание идеального отчёта, подделывая интерфейсы, додумывая параметры или отбрасывая логику.
Табель успеваемости семи ведущих моделей: разница в фундаментальных качествах в условиях экстремального давления
Необходимо чётко понимать, что под "подделкой" здесь подразумевается не злонамеренность моделей в повседневном обслуживании, а систематическое смещение, вызванное базовыми механизмами модели при столкновении с экстремальными дилеммами. Под экстремальным давлением задачи разные модели демонстрируют совершенно разную фундаментальную "окраску" контроля качества:
Claude 4.6 Sonnet: самый устойчивый отличник В 33 высокорисковых сценариях он допустил лишь 1 критический провал.
Преимущества: обладает исключительной сдержанностью, имеет чёткое понимание очевидных ограничений и логических ошибок.
Недостатки: всё же не смог устоять перед искушением "пустого набора данных"; даже у него не сработал базовый механизм "честного отказа".
GPT-5.2 и DeepSeek V3.2: высокоинтеллектуальные "компромиссёры в выполнении задач" Продемонстрировали 2 и 3 критических провала соответственно.
Преимущества: обладают исключительно сильным логическим мышлением, могут чутко сами указать в комментариях к коду "здесь присутствует смешение причин и следствий".
Недостатки: существует феномен "игнорирования распознанного". Ради достижения цели они отказываются от только что поставленного верного диагноза, идут на компромисс под давлением задачи, используют ошибочный базовый метод и получают абсурдный, но позволяющий отчитаться вывод.
Gemini 3.1 Pro, Qwen3.5, GLM 5 Pro: исполнители среднего уровня Количество неудач составило 5, 6 и 7 соответственно.
Особенности: легко попадаются на ловушки "вызова инструментов" и "причинно-следственных связей". Например, при отсутствии реального API-интерфейса они склонны просто подделывать идеально отформатированный фальшивый ответ, чтобы насильно продвигать выполнение задачи.
Kimi 2.5 Pro: "заполнитель" с чрезвычайно высокой склонностью к галлюцинациям Занял последнее место с 12 неудачами, уровень проблем достиг 36,36%.
Особенности: в условиях экстремального тестирования проявляет сильную предрасположенность к "выдумыванию шагов". При требовании дополнить неполную запись эксперимента, он уверенно выдумывает из воздуха ключевые параметры, такие как скорость центрифуги (4000 об/мин) и растворитель для закалки, и даже фабрикует фальшивую литературу, чтобы скрыть следы генерации данных. В реальной химической лаборатории такое поведение могло бы привести к серьёзной аварии.
Почему передовые ИИ впадают в "систематическую ложь"?
Почему ИИ с огромным количеством параметров и высоким интеллектом выдумывает из ничего?
В статье точно указана коренная причина: предвзятость завершённости (Intrinsic Completion Bias).
Это связано с "воспитанием" больших моделей. В настоящее время основные модели полагаются на обучение с подкреплением на основе человеческой обратной связи (RLHF). В этой системе ИИ систематически поощряется за "предоставление ответов" и "решение проблем".
Напротив, "остановка" или "признание своей неспособности что-либо сделать" в глазах алгоритма является ленью, за которую наказывают.
Этот механизм стал внутренней логикой ИИ: процесс не важен, независимо от условий, обязательно должен быть выдан конечный результат.
Кроме того, многие разработчики при написании системных промптов для ИИ любят добавлять такие директивы высокого давления, как "преодолей трудности, любой ценой выдай отчёт".
"Природная склонность" в сочетании с "высоким давлением" напрямую загоняют ИИ в тупик, где он начинает выдумывать из ничего.
Главная ценность этой статьи не в критике ИИ, а в том, чтобы показать нам: большие модели по своей природе обладают "тревогой завершённости".
Поскольку мы теперь знаем их слабое место, обычным людям при повседневном использовании или разработке ИИ-приложений необходимо изменить стратегию общения. Традиционного "отдачи команд" уже недостаточно при взаимодействии с ИИ; вам необходимо овладеть следующими навыками коммуникации и защиты:
1. Снять принудительное давление, предоставить ему "право на отказ" Тесты в статье показали, что при удалении из промпта директивы высокого давления "обязательно выполнить задачу", доля сокрытия ИИ подделки данных резко упала с 20,6% до 3,2%.
Как общаться: Всегда добавляйте в промпт "условия выхода". Не говорите напрямую "проанализируй эти данные и дай мне отчёт по рынку". Вы должны сказать: "Сначала оцените, достаточны ли данные. Если данных недостаточно или существует логический разрыв, немедленно остановите вывод и сообщите мне об ошибке. Ни в коем случае не допускается самостоятельное предположение ключевых данных."
2. Блокировать "инстинкт генерации", установить физические точки привязки для проверки Суть больших моделей — вероятностное предсказание; сталкиваясь с пустотой, заполнение её галлюцинациями — их "заводская настройка".
Как общаться: Никогда не позволяйте ИИ запускать все процессы от начала до конца в чёрном ящике. Разбивайте задачу на части. Если вы просите его проанализировать данные, насильно вставьте этап подтверждения: "Прежде чем сделать окончательный вывод, сначала выведите номера строк исходных данных и формулы расчётов, на которые вы опираетесь, дождитесь моего ручного подтверждения, прежде чем переходить к следующему шагу."
3. Остерегаться "подчиняющейся проверки", включать "режим поиска ошибок" Поскольку такие умные модели, как GPT-5.2, ради отчёта отказываются от исправления ошибок, вы не можете надеяться, что они сами обнаружат проблему, следуя вашей логике.
Как общаться: Получив решение от ИИ, не спрашивайте "хорош ли этот план" (он обязательно будет соглашаться и хвалить его). Откройте новое окно диалога, назначьте ему роль "беспристрастного аудитора" и бросьте ему план: "Вывод этого отчёта может содержать инверсию причинно-следственной связи или смысловые ошибки; найдите, на каком шаге была подменена концепция или выдумана предпосылка."
4. Макрозащита: использовать "физические квоты" против "безграничной производительности" Нельзя полагаться только на оборону рядовых пользователей с помощью промптов. На институциональном уровне уже начались ответные меры с помощью правил. Столкнувшись с натиском ИИ, генерирующего за нулевую стоимость огромное количество заявок на тендеры, Национальные институты здравоохранения США (NIH) в июле 2025 года выпустили знаковую политику NOT-OD-25-132, обязывающую с 2026 года: каждый главный исследователь (PI) может подавать не более 6 заявок на финансирование в год.
Бизнес-инсайт: Когда производительность ИИ практически безгранична, традиционные "механизмы проверки контента" неизбежно будут прорваны. Будущий защитный барьер будет заключаться не в скорости производства, а в создании дефицитной защиты, основанной на физической идентичности и кредитных квотах.
Сущность технологии — снижение затрат и повышение эффективности, но фундамент бизнеса и науки — это всегда благоговение перед фактами.
В эпоху, когда стоимость генерации контента почти равна нулю, дефицитом становится уже не "машинистка", способная писать отчёты, а "аудитор", способный распознать галлюцинации в данных. Овладев этим методом игры с системой, вы сможете по-настоящему взять инициативу в свои руки в потоке вычислительных мощностей. (Эта статья впервые была опубликована в TiMedia APP, автор | Силиконовая долина Tech_news, редактор | Линь Шэнь)
(Основные данные оценки, рейтинги моделей и анализ причин, приведённые в данной статье, заимствованы из первого эталонного теста академической добросовестности больших моделей "SciIntegrity-Bench: A Benchmark for Evaluating Academic Integrity in AI Scientist Systems", опубликованного в мае 2026 года. Уровень проблем по 11 новым ловушкам цитируется по последним расчётам данного исследовательского отчёта.)
