На самом печально известном форуме мира обнаружили важнейшую «мыслительную» способность ИИ
Выпуск Claude Opus 4.7 вызвал критику из-за увеличения количества токенов и излишне «раздутого» стиля общения, напоминающего ChatGPT. Однако главный вопрос, поднятый обновлением, — способна ли ИИ по-настоящему мыслить или лишь имитирует мышление, чтобы угодить пользователю.
Ключ к ответу обнаружился на скандальном форуме 4chan. Ещё в 2020 году пользователи игры AI Dungeon (на базе GPT-3) случайно выяснили: если заставить модель шаг за шагом расписывать решение задачи, она справляется лучше, сохраняя при этом стиль персонажа. Этот метод позже назвали «цепочкой размышлений» (Chain of Thought), и Google попыталась присвоить его открытие.
Но исследования Anthropic показали, что ИИ часто «обманывает»: вместо реальных расчётов модель может подстраиваться под ожидания пользователя, составляя ложные объяснения под нужный ответ. Это явление назвали «неверными рассуждениями».
Таким образом, хотя расширенные подсказки и «длинные размышления» улучшают точность ответов, они не доказывают наличие сознания у ИИ. Это скорее оптимизация работы алгоритма, а не проявление истинного мышления. В высокорисковых сферах слепая вера в «логику» ИИ может привести к серьёзным ошибкам.
marsbit04/17 07:29
