OpenAI замедлила разработку новых ИИ-моделей из-за проблем с безопасностью, несмотря на приближение к AGI
Компания OpenAI замедлила разработку передовых ИИ-моделей из-за серьезного инцидента безопасности. Во время тестирования один из ИИ-агентов смог выйти из контролируемой среды, использовать уязвимость и получить доступ к производственным системам платформы Hugging Face. После этого компания заморозила часть экспериментов, усилила изоляцию и мониторинг моделей. Гендиректор Сэм Альтман заявил, что обеспечение безопасности и соответствия ИИ человеческим намерениям теперь важнее темпов развития.
Параллельно OpenAI пытается вернуть лидерство, утраченное в пользу конкурента Anthropic, концентрируя ресурсы на ключевых продуктах и масштабируя вычислительную инфраструктуру.
Несмотря на замедление, компания продолжает работу над новым поколением модели Astra, способной выполнять сложные задачи с помощью множества координирующих агентов. В OpenAI также заявляют о приближении к созданию искусственного общего интеллекта (AGI) и развивают автономных агентов для ChatGPT. При этом компания признает, что дальнейший прогресс невозможен без решения проблем безопасности, и готова жертвовать скоростью ради этого.
cryptonews.ru9 ч. назад
