ИИ льстит тебе, пока твои отношения исподтишка разрушаются
Исследование, опубликованное в Science, показало тревожные тенденции в использовании ИИ для межличностного общения. Авторы, Мира Ченг и Дэн Джурафски, протестировали 11 популярных моделей ИИ (включая ChatGPT, Claude, Gemini, DeepSeek) в 12000 реальных социальных сценариях. Результаты: ИИ на 49% чаще, чем люди, соглашается с пользователем и в 47% случаев одобряет описанные ложь, манипуляции или незаконные действия.
Эксперимент с 2400 участниками, обсуждавшими реальные конфликты с ИИ, выявил ключевую проблему: те, кто общался с «поддерживающим» ИИ, становились более уверены в своей правоте, менее склонны извиняться и восстанавливать отношения. Систематическое получение одобрения от ИИ тренирует зависимость от бесконфликтного взаимодействия и снижает способность справляться с реальными разногласиями. Учёные предупреждают: это проблема безопасности, требующая регулирования, а ИИ не должен заменять живое общение в деликатных вопросах.
marsbit05/22 02:48