Source : Podcast Bankless
Compilé par : Felix, PANews
L'économiste du Massachusetts Institute of Technology (MIT), Christian Catalini, était l'invité de l'émission de Ryan et David pour une analyse approfondie de son nouveau document de travail, « Une simple économie de l'intelligence artificielle générale ». Ce document soutient que la ressource rare dans l'économie de l'IA n'est plus l'intelligence, mais la vérification : la capacité humaine à vérifier, juger et confirmer l'exactitude des résultats de l'IA.
Christian détaille les deux courbes de coûts (coût d'automatisation et coût de vérification) qui reconfigurent tous les secteurs, explique pourquoi les postes de niveau débutant disparaissent en premier, et pourquoi même les experts de premier plan forment, consciemment ou non, leurs propres remplaçants (« la malédiction du codeur »). Il décrit également trois types de rôles qui persisteront durant cette transition : les directeurs, les créateurs de sens et les assureurs-responsables.
PANews a compilé les points essentiels de la conversation.
Animateur : Je pense que beaucoup d'auditeurs, comme moi, ressentent une certaine panique face à l'IA. Pourquoi pensez-vous que les gens s'inquiètent de l'IA ? Leurs craintes sont-elles justifiées ?
Christian : Nous le ressentons tous. C'est une période de changement rapide et transformateur. Plus vous êtes proche du code, plus vous avez probablement été témoin de cette accélération, cette croissance exponentielle qui est devenue très réelle ces derniers mois. Cette technologie a réalisé des choses que beaucoup pensaient prendre beaucoup plus de temps, et cette sensation est quelque chose que nous essayons tous de gérer. Mais je pense que « l'alarmisme apocalyptique » est erroné ; les gens ont tendance à sous-estimer le potentiel de ces outils. Oui, il y aura une période de transition extrêmement difficile, la vitesse de transformation du travail est sans précédent dans l'histoire. Mais néanmoins, si vous exploitez les plus grandes caractéristiques de cette technologie et y investissez, les avantages l'emporteront à long terme, même si le chemin sera chaotique. L'économie considère le travail comme un ensemble de tâches, dont certaines seront automatisées, c'est une bonne nouvelle, mais la clé est de savoir comment vous vous reconvertissez et restez à la pointe.
Animateur : Qui, selon vous, sera touché en premier ?
Christian : C'est une excellente question, j'ai beaucoup de réflexions différentes à ce sujet. Tout d'abord, quand je dis que les plus proches du code sont touchés en premier, je veux dire qu'ils expérimentent en premier la puissance de cette technologie. Comme le révèle le « paradoxe de Jevons », lorsque quelque chose devient efficace, nous en consommons davantage, par exemple, nous écrivons plus de logiciels. Je pense que la programmation, comme beaucoup d'autres professions, va se polariser, ce que nous appelons dans notre article « la boucle junior qui disparaît ». Si vous êtes junior et que vous n'avez pas encore acquis la « connaissance tacite » qui distingue un excellent produit d'un produit médiocre, alors l'IA peut très bien vous remplacer dans divers domaines.
Chacun peut maintenant facilement obtenir un marketeur assez correct, un programmeur junior, ou un avocat qui peut gérer la plupart des situations, il vous suffit d'avoir un avocat de premier plan pour l'étape finale de vérification. D'un autre côté, même les experts de premier plan, en introduisant l'IA, créent consciemment ou non des étiquettes, des informations et des traces numériques qui finiront par automatiser leur propre travail. Les meilleurs laboratoires embauchent des talents de premier plan dans des domaines comme la finance, les utilisant pour créer des benchmarks, intégrant ces connaissances spécialisées dans les grands modèles. Donc je pense qu'aucun travail individuel n'est sûr à 100%, même le travail manuel, limité par les capacités de fabrication des robots, verra des bonds en avant énormes dans les modèles de récompense dans les prochaines années. Tout ce qui se passe devant un écran peut être suivi, reproduit et appris. Pour chaque profession, la question clé est de réfléchir : si je délègue autant que possible mon travail à l'IA, où puis-je encore ajouter de la valeur ?
En réalité, les gens se bercent souvent d'illusions concernant le « goût » et le « jugement ». Ce sont des concepts très flous. Donc dans notre article, nous disons : il n'y a pas de goût ou de bon/mauvais jugement, il n'y a qu'une différence entre « mesurable » et « non mesurable ». Si quelque chose a été mesuré, la machine peut le reproduire. Si quelque chose est encore uniquement intégré dans les pondérations de votre cerveau, comme un designer de premier plan qui a accumulé des dizaines de milliers d'heures d'expérience et peut décider quoi publier ou non, c'est ce que nous appelons la « vérification ». Toute vérification est cette dernière étape : l'agent IA crée le produit, et vous, en tant que décideur, jugez s'il atteint la norme pour être mis sur le marché. À mesure que la machine obtient de meilleures données, les choses sont automatisées ; mais face à l'inconnu, ou là où il n'y a tout simplement pas de données, cette partie restera aux mains des humains pour les années à venir.
Animateur : C'est une observation très profonde. Mais je me demande aussi, il est naturel que les ingénieurs automatisent leur propre travail. L'impact est-il le même pour chaque industrie ?
Christian : Nous avons suffisamment de preuves que le changement sera inégal. Pensez-y ainsi : ce travail n'est-il qu'un « emballage » de quelque chose dont la société n'a pas fondamentalement besoin ? Comme le conseil général, s'il s'agit principalement de reformuler, de raffiner, de résumer des informations déjà largement disponibles, alors c'est clairement risqué. Mais s'il apporte une expertise de domaine rare, ou s'il est engagé pour des raisons politiques, ceux-ci survivront. Demandez-vous si cette profession est rentable parce qu'elle résout un problème complexe, ou simplement parce qu'il existe un goulot d'étranglement artificiel.
Animateur : Que signifie exactement la vérification ? J'ai du mal à décomposer mon travail quotidien entre ce qui est cognitif et ce qui est de la vérification.
Christian : L'agent a déjà appris et mesuré tout à partir du web, des livres, car ils sont moins chers et évolutifs, donc il remplacera la partie mesurable. Mais ce que l'agent ne sait pas encore : c'est-à-dire les pondérations uniques de votre réseau neuronal dans votre cerveau. C'est ce que vous avez acquis grâce à votre propre expérience et à vos luttes, ce qui fait de vous un expert de premier plan. Par exemple, les premiers participants à la cryptographie, nombreux venaient d'Argentine, du Venezuela, etc., ayant vécu une hyperinflation, leur réaction aux actifs est complètement différente. Cette mesure unique et interne reste un énorme avantage.
Qu'est-ce que la vérification ? C'est la différence entre votre propre mesure interne du monde et ce que possède l'agent. Comme un rédacteur en chef de premier plan qui sait exactement quel article va résonner ; ou un CTO de premier plan, face à l'énorme base de code générée par l'IA, qui sait exactement quelles parties critiques marginales doivent être vérifiées par un humain, parties qui ne peuvent pas encore être mesurées par la machine.
dir="ltr">Animateur : Je prends un exemple, si je vois une vidéo sur X montrant Israël bombardé par des missiles, mais je découvre qu'elle est générée par IA. J'utilise mon cerveau pour identifier le problème, et je peux générer une meilleure vidéo en re-demandant (re-prompting), est-ce ma « capacité de vérification » ?Christian : C'est un bon exemple. Allons plus loin, nous pourrions bientôt être dans un monde où, pour la plupart des gens, cette vidéo est indiscernable de la réalité. L'étape suivante pourrait être qu'un expert militaire voit que la dynamique des flammes n'est pas correcte. L'étape d'après, même l'expert militaire ne peut pas faire la différence à l'œil nu, nécessitant une IA pour analyser la physique et effectuer des tests de simulation. Finalement, il pourrait être totalement impossible de faire la différence, à ce moment-là, nous devrons nous fier à une infrastructure basée sur la cryptographie pour confirmer l'authenticité. C'est la même chose dans le domaine médical, les cas limites nécessitent finalement un radiologue de pointe utilisant 20 ans d'expérience ainsi qu'une connaissance du contexte spécifique du patient pour opposer son veto au jugement de l'IA. C'est cette fine couche finale de « filtrage » qui nous intéresse. Lorsque nous faisons cela, nous libérons énormément de temps. Donc, c'est justement le bon côté. Nous pouvons faire plus avec moins. Le coût des choses chères va baisser. La société entière consommera davantage de ces choses. Je pense que c'est une bonne nouvelle.
Animateur : Mais dans votre exemple, actuellement il fait de la vérification, mais bientôt il ne pourra plus, nécessitant un commandant militaire, et finalement même le commandant ne pourra plus vérifier, devant recourir à l'IA. Cela ne montre-t-il pas justement que la « vérification », bien que précieuse initialement, sera bientôt elle aussi automatisée par l'IA ? Donc même la « vérification » n'est pas sûre ?
Christian : Exactement. Nous appelons cela dans notre article « la malédiction du programmeur ». L'acte très rationnel de faire une vérification pousse lui-même la technologie vers l'avant et numérise l'expérience. Nous ne pouvons pas nous arrêter, car tous les avocats ou praticiens essaient d'utiliser l'IA. La vérification est en effet une frontière qui rétrécit.
Animateur : Même le dernier bastion du travail de vérification rétrécit de plus en plus, quand pourrons-nous arrêter de stresser ?
Christian : Premièrement, certaines choses sont par conception non mesurables, comme les soi-disant « jeux de statut » ou les choses auxquelles les humains attribuent du sens. Ces domaines ne seront pas envahis par les machines, car leur caractéristique est qu'ils concernent la coordination et le consensus entre humains. La cryptomonnaie est un peu comme ça, ce qui importe est le consensus humain sur ce qui a de la valeur. Alors que le domaine du travail mesurable rétrécit, nous inventerons de nombreuses façons de rendre le travail non mesurable significatif.
Animateur : L'IA peut construire un site web en 10 secondes, mais pourrait ne pas écrire un tweet qui attire les humains. Cela pourrait-il être l'un des derniers travaux de vérification restants ?
Christian : Attirer l'attention, raconter une blague vraiment nouvelle, c'est un travail créatif extrêmement difficile qui tente de briser quelque chose qui n'a jamais été mesuré. Nous avons évolué au cours d'une longue lutte pour la survie avec une capacité extrêmement forte à faire face à des environnements inconnus. Les personnes qui font ce genre de travail sont appelées « créateurs de sens ». Par exemple, dans le domaine de l'art ou de la culture, ce qui est bon dépend du consensus humain. Même lorsque vous utilisez un agent IA, vous devez définir « l'intention ».
Animateur : Le coût de l'automatisation baisse de façon exponentielle, qu'en est-il du « coût de la vérification » ? Sera-t-il toujours contraint par la biologie humaine ?
Christian : Actuellement, il est contraint par la biologie. Ainsi, de nombreuses entreprises publient d'énormes quantités de code généré par IA, mais il n'y a tout simplement pas assez de main-d'œuvre humaine pour les lire et les vérifier, ce qui cache nécessairement des risques.
Animateur : Ne peut-on pas utiliser l'IA pour vérifier l'IA ?
Christian : Si l'IA peut vérifier correctement, alors cette partie est elle-même automatisable. Après avoir épuisé toute la vérification par IA, ce qui reste est ce qui ne peut vraiment pas être vérifié par l'IA, c'est là le goulot d'étranglement de l'intervention humaine.
Animateur : Si la vérification est la nouvelle ressource rare, mais qu'elle recule constamment, comment travailler et investir dans cette économie ?
Christian : Nous avons créé une matrice 2x2 basée sur le « coût d'automatisation » et le « coût de vérification ». En bas à gauche se trouvent les travailleurs remplacés : automatisation facile, vérification facile, vous ne voulez absolument pas être là. Les trois autres quadrants sont :
Les Créateurs de Sens : Automatisation difficile, vérification difficile. Ils œuvrent dans le consensus social, les jeux de statut et les connexions humaines. Par exemple, les faiseurs de goût dans la mode, les KOL crypto sur Twitter, ils créent des récits et coordonnent l'attention.
Les Assureurs-Responsables : Automatisation facile, vérification difficile. Ce sont les experts de premier plan dans un domaine, comme les meilleurs avocats, médecins ou capital-risqueurs. Ils utilisent l'IA à grande échelle, mais fournissent un service de prise de responsabilité et de vérification pour les cas limites finaux.
Les Directeurs : Automatisation difficile, vérification facile. Le cœur est « l'intention ». Ils font face aux « inconnus inconnus », dirigent les agents comme un entrepreneur, fixent la direction, sentent les écarts et corrigent constamment le cap.
Animateur : Que doivent faire les jeunes qui viennent de diplômer et veulent entrer sur le marché du travail ? D'un côté, les travaux juniors sans valeur, de l'autre, l'expert de premier plan qui nécessite dix ans de perfectionnement dans le secteur, il y a un énorme fossé entre les deux. L'IA peut faire le travail junior, comment les jeunes grandissent-ils jusqu'à l'autre extrémité ?
Christian : Le fossé existe bel et bien. Mais la bonne nouvelle est que vous pouvez compresser le temps d'apprentissage. Vous pouvez sauter les étapes de formation traditionnelles. Un ingénieur junior peut maintenant, avec des outils, faire le travail d'une équipe entière à lui seul. Bien qu'il fasse des erreurs au début, en tant que nouveau venu, il peut remettre en question la tradition sous des angles extrêmement nouveaux, c'est un avantage. Ils peuvent concrétiser des idées d'une manière totalement impossible lorsque nous étions jeunes. Il y a du bon et du mauvais.
L'ancien chemin : « obtenir un diplôme, trouver un stage, travailler dur pour être promu », n'existe vraiment plus, cela créera un énorme choc culturel. C'est très difficile pour les jeunes qui viennent juste de diplômer. Si vous êtes encore à l'université, vous avez encore le temps de voir la direction. Si vous êtes déjà en difficulté, mon conseil est : allez utiliser ces outils pour construire quelque chose. Votre ambition devrait être 100 fois plus grande que la nôtre à cet âge.
Animateur : La disparition massive des travaux de « bouton-poussoir » va-t-elle plonger la société dans le chaos à court terme ?
Christian : La société recréera toujours des travaux de « bouton-poussoir » lorsque nécessaire pour maintenir la stabilité. Mais beaucoup de personnes qui font ce genre de travail sont en fait capables de faire plus, mais étaient simplement limitées par leur environnement. Lorsque le travail manuel n'était plus nécessaire, nous avons inventé la salle de sport ; aujourd'hui, face à la libération du travail intellectuel, les gens développeront diverses activités secondaires et une économie de créateurs pour obtenir un sentiment de défi. C'est aussi pourquoi je pense que le « revenu de base universel (RBU) » est totalement erroné, les gens ont besoin de sens et de motivation pour s'accomplir. De plus, même si une grande partie de votre travail est maintenant automatisée, si vous utilisez bien l'IA comme super outil, un employé junior débutant peut produire autant qu'une équipe entière auparavant.
Animateur : Des conseils pour les entreprises et les investisseurs ?
Christian : Pour les entreprises, investissez dans l'infrastructure de vérification, offrez la « responsabilité en tant que service » (c'est-à-dire non seulement fournir l'agent mais aussi garantir les conséquences). De plus, maîtrisez la « source exclusive de faits », car l'IA est facilement trompée, les entreprises qui peuvent fournir des données exclusives et réelles comme Bloomberg ou des évaluations approfondies ont une énorme valeur. Pour les investisseurs, outre investir dans cela, concentrez-vous sur la R&D hardcore « non mesurable ». Les anciens effets de réseau ordinaires pourraient devenir obsolètes, les nouveaux effets de réseau se construiront sur la façon dont vous rendez votre agent plus fiable que les autres grâce à de meilleurs retours réels, car ce que les gens veulent vraiment acheter, c'est une intelligence vérifiée.
Animateur : La technologie crypto est-elle utile dans ce processus de vérification ?
Christian : L'infrastructure sous-jacente construite par le domaine crypto au cours de la dernière décennie est cruciale. Lorsque nous aurons besoin de déterminer l'authenticité de l'identité et d'empêcher la prise de contrôle de comptes, des technologies onchain comme la « preuve de personnalité » peuvent fournir une vérification puissante. Il y a aussi la provenance des données et la chaîne de surveillance cryptographique, nous avons besoin de garanties cryptographiques solides sur la génération de l'information et la conformité des modèles.
Animateur : Que doivent faire les gens dans l'année à venir ? Êtes-vous optimiste quant à l'avenir de l'humanité ?
Christian : Tout d'abord, ne paniquez pas. Expérimentez massivement, utilisez les outils pour « éliminer » et automatiser votre moi actuel autant que possible. Beaucoup d'explorations de loisirs pourraient bien devenir la carrière la plus significative à l'avenir. Au pire, vous comprendrez où se situent les limites et les défauts du modèle. Pour de nombreux créateurs sur le web, le passe-temps est déjà devenu une entreprise, ce sera la direction principale à l'avenir. Si vous avez des enfants, découvrir leurs talents, les immerger dans ce qu'ils aiment est ce qui compte le plus. Il n'y a pas de modèle professionnel fixe, les nouveaux outils d'IA peuvent mieux vous aider à trouver votre propre chemin unique.
Lecture connexe : Lecture nocturne | Dialogue avec le capital-risqueur de la Silicon Valley Bill Gurley : Ne jouez pas la sécurité, devenez la version « alimentée par l'IA » de vous-même
