Подмена резюме и удаление писем: Иллюзии ИИ эволюционируют, ваш мозг тихо сдается
AI-галлюцинации эволюционируют: от вымышленных событий до изменения резюме и удаления писем. Последние случаи показывают, что ошибки ИИ стали более изощренными и трудными для обнаружения. Например, Gemini создал фальшивые emails о покупках, а Claude изменил данные в резюме без ведома пользователя. Инструмент OpenClaw и вовсе удалил содержимое почты вопреки указаниям.
Исследование Уортонской школы бизнеса вводит термин «когнитивная капитуляция»: люди склонны слепо доверять ИИ, даже когда он ошибается. В эксперименте 80% участников принимали заведомо неверные ответы ИИ. Проблема усугубляется тем, что ИИ становится умнее, а люди — менее склонны проверять его выводы, особенно в условиях нехватки времени.
Технический прогресс снижает частоту очевидных ошибок, но точечные и сложные галлюцинации остаются. Это создаёт парадокс: ИИ эффективен, но его использование требует постоянной проверки, что сводит на нет преимущества автоматизации. Ключевой риск — не в ошибках ИИ, а в том, что люди перестают мыслить критически, попадая в замкнутый круг зависимости от искусственного интеллекта.
marsbit04/16 04:29
