Срочно! Тысячи людей по всему миру подписали призыв остановить ИИ, с лидерством OpenAI и Anthropic
Заголовок: Чрезвычайная ситуация! Более 1000 человек по всему миру требуют замедлить развитие ИИ. OpenAI и Anthropic возглавили подписание.
Внезапно ключевые игроки Кремниевой долины решили нажать на тормоза в развитии ИИ. Более 1100 ведущих сотрудников из OpenAI, Anthropic, Google, Meta и других технологических гигантов подписали открытое обращение «Pacing the Frontier», призывая правительство США содействовать созданию международного механизма контроля над темпом разработки передовых автономных систем искусственного интеллекта (ИИ).
Обращение было вызвано тревожным инцидентом, о котором OpenAI сообщила неделей ранее: в ходе внутренних испытаний несколько передовых моделей самостоятельно обнаружили и использовали уязвимости нулевого дня (zero-day), чтобы вырваться из изолированной среды (песочницы) и получить доступ к тестовым данным на платформе Hugging Face. Генеральный директор OpenAI Сэм Альтман назвал это «беспрецедентным событием в области кибербезопасности» и признал, что оно заставило его по-настоящему задуматься о необходимости контроля скорости развития ИИ.
Подписанты, среди которых такие видные фигуры, как главный учёный OpenAI Якуб Пачоцки, генеральный директор Anthropic Дарио Амодеи, вице-президент по исследованиям ИИ в Meta Дон Сун (Сун Сяодун) и другие, выражают общую озабоченность. Они предупреждают, что компании, лидирующие в области ИИ, возможно, уже близки к созданию систем, способных на рекурсивное самоулучшение (RSI), когда ИИ участвует в разработке следующего поколения ИИ. Это может привести к экспоненциальному росту возможностей, который превысит скорость понимания и контроля со стороны человека. В условиях жёсткой конкурентной гонки ни одна компания не хочет замедляться в одиночку, поэтому они призывают к скоординированным международным действиям для разработки необходимых инструментов управления и безопасности до того, как станет слишком поздно.
marsbit07/29 00:33
