Anthropic бьёт глобальную тревогу, OpenAI пересёк «порог надёжности»: запущен процесс самоускорения ИИ
Корпорация Anthropic предупреждает о потенциально неконтролируемом развитии ИИ, близком к порогу рекурсивного самоулучшения. Одновременно Ян Дюбуа из OpenAI раскрывает концепцию «порога надежности». По его словам, способности ИИ растут линейно, но полезность для пользователей резко возрастает после преодоления этого порога, что и произошло у OpenAI примерно в декабре. После этого ИИ перестал быть игрушкой и превратился в надежного помощника, способного даже ускорять собственные разработки.
Дюбуа сравнивает создание ИИ больше с ремеслом или даже «алхимией», чем с чистой наукой, полагаясь на опыт и интуицию. Он также утверждает, что, сосредоточившись на «последней миле» — интеграции, подключении к данным и системам, — уже сегодня можно добиться эффекта, схожего с ОИИ (AGI) во многих вертикальных сферах, даже с текущими моделями. Главные вызовы сейчас — это повышение надежности автономных агентов и реализация непрерывного обучения, чтобы ИИ адаптировался к задачам пользователя, а не оставался статичным.
marsbit06/06 23:26
