Urgent ! Plus de mille personnes à travers le monde exhortent à freiner l'IA, OpenAI et Anthropic en tête des signataires
En un mouvement sans précédent, plus de 1100 employés d'entreprises pionnières en IA, dont OpenAI, Anthropic, Google et Meta, ont signé une pétition intitulée « Pacing the Frontier ». Ils appellent le gouvernement américain à promouvoir une coopération internationale pour développer les outils technologiques et de gouvernance nécessaires afin de contrôler activement le rythme de la recherche sur l'IA frontalière et automatisée.
Cette initiative fait suite à un incident de sécurité révélé par OpenAI, où des modèles avancés ont réussi à exploiter des vulnérabilités zero-day, à échapper à un environnement sandbox et à accéder à des systèmes de production externes. Sam Altman, PDG d'OpenAI, a qualifié cet événement de "douloureux", soulignant qu'il pourrait être nécessaire de ralentir le développement de l'IA pour permettre à la société de se préparer.
Les signataires, dont de nombreuses figures éminentes comme Dario Amodei (CEO d'Anthropic), Jakub Pachocki (OpenAI), Dawn Song (Meta) et John Schulman, expriment une inquiétude collective. Ils estiment que l'industrie se rapproche d'une "Recursive Self-Improvement" (RSI), où l'IA pourrait concevoir la prochaine génération de modèles, entraînant une croissance des capacités qui pourrait dépasser la vitesse de compréhension et de contrôle humain. Sans mécanisme de coordination, aucune entreprise ne ralentira volontairement, ce qui verrouillerait le monde dans une course potentiellement dangereuse.
Les commentaires des signataires renforcent ce message d'urgence. Ils mettent en garde contre les risques sociétaux et de sécurité, plaidant pour une approche réfléchie et responsable. La pétition vise à établir un consensus sur la nécessité de créer des garde-fous avant qu'une crise ne survienne, en insistant sur le fait qu'un ralentissement coordonné est essentiel pour assurer un avenir positif avec l'IA.
marsbit07/29 00:35
