Годовое «самое опасное» исследование NVIDIA: ИИ саморазмножает код, бесконечно эволюционируя
Резюме: Исследователи из Кембриджского университета и NVIDIA представили революционную статью «Машина Гёделя Красной Королевы» (Red Queen Gödel Machine — RQGM). Эта система реализует идею рекурсивного самоулучшения (RSI), где ИИ не только создает и тестирует более совершенные версии собственных алгоритмов в песочнице, но и эволюционирует самого «экзаменатора» — систему оценки. Таким образом, создается бесконечная петля саморазвития, где среда и агент соревнуются, следуя принципу «чтобы оставаться на месте, нужно бежать изо всех сил». Эксперименты в области генерации кода, написания текстов и математических доказательств показали повышение эффективности и снижение затрат. Метод также успешно борется с предвзятостью ИИ-оценщиков. Эта работа делает прогноз сооснователя Anthropic Джека Кларка о появлении высокоавтономного саморазвивающегося ИИ к 2028 году с вероятностью 60% как никогда реалистичным, преодолевая теоретический барьер «машины Гёделя», стоявший 20 лет.
marsbit06/28 07:51
