Auteur : Sam Altman
Compilation : Deep Tide TechFlow
Introduction : Quelqu'un a lancé un cocktail Molotov chez Sam Altman à 3h45 du matin. Il a rarement partagé publiquement une photo de famille, espérant que cela dissuaderait la prochaine personne de passer à l'acte. Cet article n'est pas seulement une plainte contre l'attaque ; il expose également pour la première fois sa conviction envers l'IA : l'IA doit être démocratisée, quelques laboratoires ne devraient pas décider de l'avenir de l'humanité, et la tentation de "voir l'AGI et ne plus pouvoir revenir en arrière" remplit ce domaine de conflits shakespeariens.
Voici une photo de ma famille. Je les aime plus que tout.
J'espère que l'image a du pouvoir. Normalement, nous gardons une certaine intimité, mais dans ce cas, je partage une photo, espérant que cela pourrait dissuader la prochaine personne de lancer un cocktail Molotov chez nous, peu importe ce qu'elle pense de moi.
La première personne l'a fait hier soir, à 3h45 du matin. Heureusement, il a rebondi sur la maison et personne n'a été blessé.
Les mots aussi ont du pouvoir. Il y a quelques jours, un article incendiaire sur moi est paru. Hier, quelqu'un m'a dit qu'il pensait que cet article, apparaissant à un moment où les gens sont extrêmement anxieux au sujet de l'IA, rendait ma situation plus dangereuse. Je n'y ai pas prêté attention sur le moment.
Maintenant, je suis réveillé au milieu de la nuit, en colère, et je réalise que j'ai sous-estimé le pouvoir des mots et des récits. Cela semble être un bon moment pour parler de plusieurs choses.
Premièrement, mes convictions.
Travailler pour la prospérité de tous, autonomiser tout le monde, faire avancer la science et la technologie, ce sont pour moi des obligations morales.
L'IA sera l'outil le plus puissant pour étendre les capacités et le potentiel humains. La demande pour cet outil est pratiquement illimitée ; les gens en feront des choses incroyables. Le monde devrait avoir une abondance d'IA, et nous devons trouver comment y parvenir.
Tout ne se passera pas bien. La peur et l'anxiété face à l'IA sont justifiées ; nous assistons peut-être au plus grand changement sociétal depuis très longtemps, voire de tous les temps. Nous devons assurer la sécurité, ce qui ne se limite pas à aligner un modèle – nous avons un besoin urgent d'une réponse sociétale globale pour faire face aux nouvelles menaces. Cela inclut de nouvelles politiques pour aider à traverser une transition économique difficile afin d'atteindre un avenir meilleur.
L'IA doit être démocratisée ; le pouvoir ne doit pas être trop concentré. Le contrôle de l'avenir appartient à tous et à leurs institutions. L'IA doit autonomiser les individus, et nous devons collectivement décider de notre avenir et des nouvelles règles. Je ne pense pas qu'il soit correct que quelques laboratoires d'IA prennent les décisions les plus importantes concernant notre avenir.
La capacité d'adaptation est cruciale. Nous apprenons tous très rapidement de nouvelles choses ; certaines de nos convictions seront justes, d'autres erronées, et parfois nous devrons changer d'avis rapidement à mesure que la technologie évolue et que la société se transforme. Personne ne comprend encore les implications de la superintelligence, mais elles seront immenses.
Deuxièmement, quelques réflexions personnelles.
Lorsque je reviens sur mon travail lors de la première décennie d'OpenAI, je peux pointer du doigt beaucoup de choses dont je suis fier et une pile d'erreurs.
Je pense à notre procès imminent avec Elon, et je me souviens à quel point j'ai insisté pour ne pas accepter le contrôle unilatéral qu'il voulait sur OpenAI. J'en suis fier, fier du chemin étroit que nous avons emprunté à l'époque, qui a permis à OpenAI de continuer à exister, ainsi que toutes les réalisations qui ont suivi.
Je ne suis pas fier d'avoir évité les conflits, ce qui a causé une immense souffrance à moi-même et à OpenAI. Je ne suis pas fier de la façon dont j'ai mal géré le conflit avec l'ancien conseil d'administration, qui a causé une énorme confusion dans l'entreprise. J'ai fait beaucoup d'autres erreurs dans la trajectoire folle d'OpenAI ; je suis une personne imparfaite, au centre d'une situation exceptionnellement complexe, essayant de m'améliorer un peu chaque année, travaillant toujours pour la mission. Nous avons commencé en sachant à quel point les risques de l'IA étaient grands, et à quel point les désaccords personnels entre des personnes de bonne volonté que je respecte seraient extrêmement amplifiés. Mais vivre ces conflits intenses et souvent avoir à les arbitrer est une autre chose, et le coût est grave. Je suis désolé pour les personnes que j'ai blessées et j'aimerais avoir appris plus vite.
Je suis aussi très conscient qu'OpenAI est maintenant une plateforme majeure, et non une petite startup, et que nous devons maintenant fonctionner de manière plus prévisible. Les dernières années ont été extrêmement tendues, chaotiques et sous haute tension.
Cependant, ce dont je suis le plus fier, c'est que nous sommes en train de réaliser notre mission, ce qui semblait extrêmement improbable lorsque nous avons commencé. Malgré tous les obstacles, nous avons compris comment construire une IA très puissante, comment accumuler suffisamment de capital pour construire l'infrastructure nécessaire pour la livrer, comment créer une entreprise produit et une activité, comment fournir des services assez sûrs et robustes à grande échelle, et plus encore. Beaucoup d'entreprises disent qu'elles vont changer le monde ; nous l'avons vraiment fait.
Troisièmement, quelques réflexions sur cette industrie.
Ce que j'ai retiré personnellement des dernières années, et mon opinion sur la raison pour laquelle il y a tant de drames shakespeariens entre les entreprises de notre domaine, se résume à ceci : "Une fois que vous avez vu l'AGI, vous ne pouvez plus ne pas la voir." Cela a une dynamique véritable de "l'Anneau de Pouvoir", poussant les gens à faire des choses folles. Je ne dis pas que l'AGI elle-même est l'anneau, mais plutôt la philosophie totalitaire de "devenir la personne qui contrôle l'AGI".
La seule solution à laquelle je puisse penser est d'avancer vers un partage large de la technologie avec les gens, et que personne ne possède l'anneau. Les deux moyens évidents d'y parvenir sont l'autonomisation individuelle et la garantie que les systèmes démocratiques gardent le contrôle.
Il est important que le processus démocratique reste plus puissant que les entreprises. Les lois et les normes changeront, mais nous devons travailler au sein du processus démocratique, même s'il est désordonné et plus lent que nous ne le souhaiterions. Nous voulons être une voix et une partie prenante, mais ne pas détenir tout le pouvoir.
Beaucoup de critiques de notre industrie viennent de préoccupations sincères concernant les risques extrêmement élevés de cette technologie. C'est tout à fait justifié, et nous accueillons favorablement les critiques et les débats de bonne foi. Je compatis avec les sentiments anti-technologie, il est évident que la technologie n'est pas toujours bonne pour tout le monde. Mais globalement, je crois que le progrès technologique peut rendre l'avenir incroyablement bon, pour votre famille et la mienne.
Lorsque nous avons ce débat, nous devrions modérer la rhétorique et les stratégies, et essayer qu'il y ait moins d'explosions dans moins de maisons, que ce soit au sens figuré ou littéral.
