# Сопутствующие статьи по теме Самосознание

Новостной центр HTX предлагает последние статьи и углубленный анализ по "Самосознание", охватывающие рыночные тренды, новости проектов, развитие технологий и политику регулирования в криптоиндустрии.

Опровергнута основная идея борьбы с галлюцинациями: Метапознание — новое решение для искоренения галлюцинаций в больших моделях

Исследователи из Google Research и Тель-Авивского университета в статье, принятой ICML 2026, утверждают, что текущий подход к борьбе с «галлюцинациями» ИИ ошибочен. Вместо того чтобы стремиться сделать модели всезнающими (расширяя данные и параметры) или заставлять их молчать в случае неуверенности (что ведет к высоким потерям в полезности — «utility tax»), нужно научить ИИ точно оценивать и честно сообщать о своей степени уверенности. Ключевая проблема — недостаточная «различительная способность» (discrimination) моделей: они не могут надежно отличить правильные ответы от ошибочных в каждом конкретном случае, даже при хорошей общей калибровке. Это приводит к тому, что для снижения уровня ошибок приходится отказываться от большого числа верных ответов. Авторы переопределяют «галлюцинацию»: это не просто ошибка, а выдача неверной информации с высокой степенью уверенности, когда внутреннее состояние модели неубедительно. Решение — развитие «верной неопределенности» (faithful uncertainty) и метапознания (metacognition). ИИ должен научиться воспринимать свою внутреннюю неуверенность (например, через вариативность ответов при повторных пробах) и соответствующим образом модулировать формулировки в выводе — выражать сомнения, когда это уместно. Это особенно критично для ИИ-агентов, использующих инструменты (например, поиск): без метапознания они не могут эффективно решать, когда нужно искать информацию, а когда доверять собственным знаниям, что ведет к злоупотреблению инструментами. Внедрению мешают вызовы: «парадокс начальной загрузки» (обучение на статических данных для динамической способности), «уничтожение сигналов» в процессе RLHF (который поощряет излишнюю уверенность) и сложность оценки истинного метапознания, а не его симуляции. Авторы призывают оценивать методы не только по точности, а по всей кривой компромисса между полезностью и ошибками. Главный вывод: ИИ не должен быть безошибочным, но он должен честно осознавать пределы своих знаний и сообщать о своей уверенности пользователю, что является основой доверия в высокорисковых сферах.

marsbit06/03 00:44

Опровергнута основная идея борьбы с галлюцинациями: Метапознание — новое решение для искоренения галлюцинаций в больших моделях

marsbit06/03 00:44

Твоя тревога об ИИ, которую тебе навязывают

Автор предупреждает, что страх перед ИИ активно используется для манипуляции. Большая часть контента об ИИ в соцсетях — это «маркетинг паники»: создание тревоги, предложение «решения» и монетизация внимания. Слепое копирование чужих AI-стратегий бесполезно, так как они созданы для конкретных задач и не подходят всем. Главная ловушка ИИ — не в неумении его использовать, а в том, что люди начинают применять его для всего, даже для принятия ключевых решений (например, планирования времени), что ослабляет их собственные навыки. Данные исследований (Fortune, Goldman Sachs, Harvard Business Review) показывают, что во многих компаниях ИИ не повысил продуктивность, а лишь увеличил нагрузку, ведущую к выгоранию. Настоящая проблема — не «я еще не научился использовать ИИ», а «я разучился думать самостоятельно». Ключевые способности — стратегическое мышление, креативность, управление временем — остаются за человеком. Правильный подход: использовать ИИ для рутинных задач, но развивать и сохранять свои когнитивные навыки. Настоящие победители в эпоху ИИ — не те, кто использует его больше всех, а те, кто знает, когда его НЕ использовать.

marsbit03/10 08:41

Твоя тревога об ИИ, которую тебе навязывают

marsbit03/10 08:41

Занимаясь единоборствами два года, я обнаружил, что в криптоиндустрии теряют деньги одни и те же люди

Автор, занимаясь борьбой и инвестициями, заметил общую закономерность: люди с гипертрофированным эго часто терпят неудачи в обоих областях. В единоборствах такие новички-энтузиасты работают на износ, получают травмы или бросают тренировки после поражений. В инвестициях аналогично: трейдеры, чья самооценка зависит от успехов, совершают ошибки — мечутся между стратегиями, ввязываются в конфликты или упрямо держатся за провальные идеи, создавая оправдания своим решениям. Ключ к долгосрочному успеху — не отсутствие эго, а умение управлять им: превращать амбиции в дисциплину, систематически работать и избегать необратимых потерь. Главный враг — не ошибка, а полное разорение или выгорание.

marsbit01/08 08:55

Занимаясь единоборствами два года, я обнаружил, что в криптоиндустрии теряют деньги одни и те же люди

marsbit01/08 08:55

Прекратите азартные игры в рамках прогнозов

Статья призывает прекратить «азартные игры» в инвестициях, где действия продиктованы тревогой, а не расчетом. Автор подчеркивает: спешка без точного плана ведет к потере капитала. Ключевое решение — сначала думать, потом действовать. Первый шаг — найти свое уникальное преимущество (Edge). Вместо следования общим советам, предлагается использовать ИИ как «усилитель познания». Не спрашивайте ИИ о конкретных сделках, а анализируйте с ним свой опыт: детство, характер, инвестопыты, упущенные возможности. Цель — выявить паттерны и сильные стороны через диалог-противостояние, а не соглашательство. Второй шаг — создать систему для исполнения. На основе найденного преимущества строится гибкая框架 (framework) для быстрой реакции на рыночные изменения. Пример: анализ роста $AERO и $ZORA показал общую логику — оба связаны с потребностями Coinbase. Регулярный анализ и выводы превращаются в модель: идентификация сигнала → проверка логики → действие. Главный вывод: познайте себя. Боль в трейдинге часто возникает из-за несоответствия характера и позиций. Откажитесь от иллюзии всемогущества, найдите или развивайте свои сильные стороны и стройте на них систему для заработка.

marsbit01/05 05:39

Прекратите азартные игры в рамках прогнозов

marsbit01/05 05:39

活动图片

Популярные категорииright-arrow

Популярные тегиright-arrow

Новости индустрииright-arrow