Entretien long avec le PDG d'Anthropic : Quand l'IA devient une super-arme, comment trouver l'équilibre entre commerce et sécurité ?
Dario Amodei, PDG d'Anthropic, discute de l'équilibre entre innovation commerciale et responsabilité sécuritaire dans le développement de l'IA. Il évoque son départ d'OpenAI dû à des divergences de valeurs et un manque de confiance, et défend la stratégie d'Anthropic axée sur les applications entreprises pour aligner modèle économique et éthique.
Il aborde les risques sociétaux, notamment la suppression potentielle de nombreux emplois de cols blancs, tout en proposant des solutions pour une transition positive. Amodei insiste sur la nécessité d'une coopération entre acteurs de confiance pour établir des normes de sécurité élevées, citant sa collaboration avec Google.
Concernant la sécurité nationale, il justifie les contrats avec le Département de la Défense américain par la nécessité de contrer des adversaires, mais en fixant des limites strictes contre la surveillance de masse ou les armes autonomes. Il explique également la non-publication du modèle "Mythos", jugé trop puissant et risqué, en attendant des mécanismes de défense adaptés.
Enfin, il rejette l'idée d'un "moment" singulier d'auto-amélioration de l'IA, décrivant plutôt une accélération exponentielle graduelle. Il conclut sur la nécessité d'une gouvernance équilibrée, évitant à la fois le contrôle exclusif par des entreprises privées ou par les gouvernements.
marsbit06/24 09:31