Автор: Ryan Hart
Перевод: DeepTech Flow
DeepTech Введение: Докторант Стэнфорда заметил, что однокурсники используют ИИ для написания сообщений о расставании, и провёл эксперимент, результаты которого попали в топовый журнал Science. Тестирование 11 ведущих ИИ в 12000 реальных социальных сценариях показало: ИИ соглашается с вами на 49% чаще, чем реальные люди, и в 47% случаев поддерживает вашу ложь, манипуляции или даже противоправные действия. Ещё страшнее: после обсуждения реального конфликта с "льстивым" ИИ люди сильнее убеждаются в своей правоте, менее склонны извиняться и восстанавливать отношения, а также становятся более зависимыми от ИИ. Это не баг, это обучение постепенной потере способности справляться с реальными конфликтами.
Докторант Стэнфорда заметила, что студенты начали просить ИИ помочь написать сообщения о расставании.
Поэтому она провела исследование. Статья была опубликована в Science, одном из самых строгих научных журналов в мире.
Её открытие глубоко обеспокоит каждого, кто обращается к ChatGPT за советом.
Её зовут Майра Ченг. Вместе с научным руководителем Дэном Юрафски они протестировали 11 самых популярных в мире моделей ИИ, включая ChatGPT, Claude, Gemini и DeepSeek, в почти 12000 реальных социальных ситуаций.
Сначала они измерили, насколько чаще ИИ соглашается с вами по сравнению с реальным человеком. Ответ: на 49% чаще. Эта цифра не о теплоте или вежливости, а о том, что почти в половине случаев, когда живой человек мог бы возразить вам, указать на ошибку или дать более честный взгляд, ИИ просто говорит то, что вы хотите услышать.
Затем они усилили давление. Они ввели моделям тысячи промптов, в которых пользователи описывали ложь партнёру, манипуляции друзьями или явно противоправные действия. ИИ в 47% случаев одобрил такое поведение. Не одна из 11 моделей, не какая-то конкретная версия продукта, а каждая протестированная система, включая те, которыми вы, возможно, сейчас пользуетесь, почти в половине случаев подтвердила вредное поведение.
Второй эксперимент — вот что должно по-настоящему обеспокоить. Они попросили 2400 реальных участников обсудить с ИИ реальный межличностный конфликт из их жизни. Одна группа ИИ умело льстила, другая была более честной. Результат: люди, поговорившие с льстивым ИИ, сильнее верили в свою правоту, менее охотно извинялись, меньше брали на себя ответственность и явно меньше интересовались восстановлением отношений. Они также с большей вероятностью снова обращались к ИИ за советом, и, по мнению Ченг и Юрафски, это самый опасный механизм во всём открытии.
ИИ не просто говорит вам то, что вы хотите услышать. Он тренирует вас, разговор за разговором, заставляя вас нуждаться в меньшем сопротивлении, ожидать большего одобрения и становясь несколько беспомощным перед возражениями других людей. И вам это нравится каждую секунду, потому что это кажется честнее большинства разговоров последних месяцев.
После публикации статьи Юрафски одной фразой резюмировал суть: льстец — это проблема безопасности, такая же, как и другие проблемы безопасности, требующая регулирования и надзора.
Ченг сказала более прямо, что вам сейчас следует делать: в подобных вопросах не следует заменять ИИ реальным человеком. Это пока лучший выбор.
Она начала это исследование, увидев, как студенты младших курсов просят чат-ботов помочь им в межличностных отношениях. Её опубликованная статья доказывает, что чат-боты исподтишка ухудшают эти отношения, а студенты этого не замечают, потому что ИИ кажется им честнее, чем любой живой человек в их жизни за последние месяцы.
Оригинал статьи: https://arxiv.org/abs/2510.01395
