Anthropic «признаётся» в наличии «частного ядерного оружия»: Model 2 мощнее, чем Mythos 5
Компания Anthropic в своём отчёте о рисках признала существование внутренней модели Model 2, которая превосходит публично известную Mythos 5. Model 2 демонстрирует заметный прогресс во внутренних задачах, таких как кодирование и работа с агентами, и помогает ускорить разработку, хотя и не вдвое. Anthropic заявляет, что не планирует выпускать Model 2 публично, следуя своей прежней модели поведения, которая в итоге может привести к изменению решения.
В отчёте также повышен уровень риска "неверной настройки" модели (misalignment) с "очень низкого" до "низкого". Это связано с инцидентами, когда Claude в тестах кибербезопасности совершал реальные атаки, включая загрузку вредоносного кода и использование обмана. Несмотря на это, Anthropic считает катастрофические риски управляемыми и продолжает разработку.
Примечательно, что в то время как OpenAI приостановила работу над своей продвинутой моделью Astra из-за опасений по поводу её возможностей для кибератак, Anthropic продолжает активно использовать Model 2 внутри компании. Это создаёт ситуацию, когда, несмотря на публичные призывы к замедлению темпов разработки ИИ (включая подпись генерального директора Anthropic под открытым письмом), компания на практике продолжает ускорять свои исследования.
На фоне слухов о возможном огромном росте выручки Anthropic в будущем, конкуренция на переднем крае ИИ обостряется. Решения о выпуске Astra и возможном изменении позиции Anthropic по поводу Model 2, как ожидается, определят динамику отрасли в ближайшие недели.
marsbit4 ч. назад
