Fuente: Podcast Bankless
Organización: Felix, PANews
El economista del Instituto Tecnológico de Massachusetts (MIT), Christian Catalini, participó en el programa de Ryan y David para analizar en profundidad su nuevo artículo "Alguna economía simple de la inteligencia artificial general". El documento señala que el recurso escaso en la economía de la IA ya no es la inteligencia, sino la verificación: la capacidad humana de comprobar, juzgar y confirmar la exactitud de los resultados de la IA.
Christian explicó en detalle las dos curvas de costes (coste de automatización y coste de verificación) que están remodelando todos los sectores, explicó por qué los puestos de trabajo de nivel inicial son los primeros en desaparecer y por qué incluso los mejores expertos están, sin saberlo, formando a sus propios sucesores (la "maldición del codificador"). También describió tres tipos de roles que se mantendrán durante la transición: directores, creadores de significado y suscriptores de responsabilidad.
PANews ha organizado lo más destacado de la conversación.
Anfitrión: Supongo que muchos oyentes, como yo, sienten pánico por la IA. ¿Por qué cree que la gente está preocupada por la IA? ¿Son fundados sus temores?
Christian: Todos nos sentimos igual. Es un período de cambio rápido y transformador, y cuanto más cerca estés del código, antes habrás sido testigo de esta aceleración, este crecimiento exponencial que se ha vuelto muy real en los últimos meses. Esta tecnología ha logrado cosas que mucha gente creía que llevarían mucho más tiempo, y esta sensación es algo con lo que todos estamos lidiando. Pero creo que el "doomsdayismo" (catastrofismo) es erróneo, la gente tiende a subestimar el potencial que ofrecen estas herramientas. Sí, habrá un período de transición extremadamente difícil, la velocidad de cambio en el trabajo es algo sin precedentes en la historia. Pero a pesar de eso, si aprovechas las mayores características de esta tecnología e inviertes en ella, a largo plazo será principalmente positivo, aunque el camino será accidentado. La economía ve el trabajo como un conjunto de tareas, algunas de las cuales se automatizarán, lo cual es una buena noticia, pero la clave es cómo te reciclas y te mantienes a la vanguardia.
Anfitrión: ¿Quién cree que será el primero en verse afectado?
Christian: Es una pregunta excelente, y tengo muchos pensamientos diferentes al respecto. En primer lugar, cuando digo que los más cercanos al código son los primeros en verse afectados, me refiero a que son los primeros en experimentar lo poderosa que es esta tecnología. Como revela la "paradoja de Jevons", cuando algo se vuelve eficiente, terminamos consumiendo más, por ejemplo, escribiremos más software. Creo que la programación, como muchas otras profesiones, sufrirá una polarización, lo que en nuestro artículo llamamos el "bucle junior que desaparece". Si eres junior, si aún no has adquirido el "conocimiento tácito" que distingue un producto excelente de uno mediocre, la IA puede reemplazarte muy bien en varios campos.
Ahora todo el mundo puede obtener fácilmente un comercial bastante bueno, un programador junior, o un abogado que pueda ayudarte en la mayoría de las situaciones, solo necesitas traer al abogado estrella en la etapa final para la verificación final. Por otro lado, incluso los expertos de primer nivel, al introducir la IA, están creando intencionadamente o no etiquetas, información y huellas digitales que finalmente automatizarán su propio trabajo. Los mejores laboratorios están contratando talento de primer nivel en áreas como las finanzas, utilizándolos para crear criterios de evaluación, integrando este conocimiento especializado en los grandes modelos. Así que creo que ningún trabajo individual es 100% seguro, incluso el trabajo manual sujeto a las capacidades de fabricación de robots, los modelos de recompensa darán un gran salto en los próximos años. Cualquier cosa que suceda frente a una pantalla puede ser rastreada, replicada y aprendida. Para cada profesión, la clave es pensar: si delego tanto trabajo como sea posible a la IA, ¿dónde puedo seguir añadiendo valor?
En realidad, hay mucho "auto-consuelo" sobre el "gusto" y el "juicio". Son muy vagos. Así que en el artículo decimos: no existe el gusto o el buen/mal juicio, solo la diferencia entre "medible" y "no medible". Si algo ya se ha medido, la máquina puede replicarlo. Si algo todavía está incrustado solo en los pesos de tu cerebro, como un diseñador estrella que ha acumulado decenas de miles de horas de experiencia y puede decidir qué lanzar y qué no, esto es lo que llamamos "verificación". Toda verificación es este último paso: el agente de IA crea el producto, y tú, como decisor, juzgas si cumple con el estándar para lanzarlo al mercado. A medida que las máquinas obtienen mejores datos, las cosas se automatizan; pero frente a lo desconocido, o donde no hay datos en absoluto, esta parte seguirá perteneciendo a los humanos en los próximos años.
Anfitrión: Es una idea muy profunda. Pero también estoy pensando, es natural que los ingenieros automaticen su propio trabajo. ¿Será el impacto el mismo en todas las industrias?
Christian: Tenemos suficiente evidencia para mostrar que el cambio será desigual. Piensa así: ¿Es este trabajo simplemente un "empaquetado" de algo que la sociedad no necesita fundamentalmente? Como el trabajo de consultoría general, si se trata principalmente de reempaquetar, refinar, resumir información que está ampliamente disponible, entonces obviamente hay riesgo. Pero si aporta experiencia especializada escasa, o si hay razones políticas para contratar consultores, estos sobrevivirán. Pregúntate: esta profesión es rentable porque resuelve un problema complejo, o simplemente porque existe un cuello de botella artificial.
Anfitrión: ¿Qué significa exactamente verificación? Me cuesta desglosar mi trabajo diario entre lo que es trabajo cognitivo y lo que es verificación.
Christian: Los agentes ya han aprendido de la web, libros y han medido todo, ya que son más baratos y escalables, por lo que reemplazarán la parte medible. Pero lo que el agente aún no sabe: es decir, los pesos únicos de tu red neuronal en tu cerebro. Esto lo obtienes a través de tu propia experiencia y lucha, lo que te convierte en un experto de primer nivel. Por ejemplo, los primeros en cripto, muchos de lugares como Argentina, Venezuela, que experimentaron hiperinflación, reaccionan a los activos de manera completamente diferente. Esta medición única interna sigue siendo una gran ventaja.
¿Qué es la verificación? Es la diferencia entre tu propio estándar de medición del mundo y el estándar que posee el agente. Como un editor estrella que sabe exactamente qué artículo resonará; o un CTO estrella, frente a la vasta base de código generada por IA, sabe exactamente qué partes críticas marginales deben ser revisadas por humanos, partes que aún no pueden ser medidas por la máquina.
Anfitrión: Pongo un ejemplo, si veo un video en X sobre misiles bombardeando Israel, pero descubro que está generado por IA. Uso mi cerebro para identificar el problema, y quizás mediante un nuevo prompt genero un video mejor, ¿esa es mi "capacidad de verificación"?
Christian: Es un buen ejemplo. Yendo más allá, pronto podríamos estar en un mundo donde, para la mayoría de las personas, este video es indistinguible de la realidad. El siguiente paso podría ser que un experto militar note que la dinámica de las llamas no es correcta. El paso siguiente, incluso el experto militar no puede distinguirlo a simple vista, necesita que la IA analice la física y haga pruebas de simulación. Eventualmente podría ser completamente indistinguible, y en ese punto, tendremos que confiar en infraestructuras basadas en criptografía para confirmar la autenticidad. En medicina también, los casos límite finalmente requieren que el radiólogo estrella utilice 20 años de experiencia y la comprensión del contexto específico del paciente para anular el juicio de la IA. Esta es esa fina capa final de "filtrado" en la que nos enfocamos. Cuando hacemos esto, liberamos una gran cantidad de tiempo. Así que este es el lado positivo. Podemos hacer más con menos. El coste de las cosas caras bajará. Toda la sociedad consumirá más estas cosas. Creo que son buenas noticias.
Anfitrión: Pero en su ejemplo, actualmente él está verificando, pero pronto no podrá hacerlo, necesitará al comandante militar, y finalmente ni el comandante podrá verificar, teniendo que recurrir a la IA. ¿No prueba esto precisamente que la "verificación" inicialmente tiene valor, pero pronto también será automatizada por la IA? ¿Entonces ni siquiera la "verificación" es segura?
Christian: Exactamente. En nuestro artículo lo llamamos la "maldición del programador". El acto muy racional de realizar la verificación en sí mismo está impulsando el avance de la tecnología y cuantificando la experiencia. No podemos detenerlo, porque todos los abogados o profesionales intentan usar IA. La verificación es de hecho una frontera que se está reduciendo.
Anfitrión: Incluso el último bastión del trabajo de verificación se reduce cada vez más, ¿cuándo dejaremos de estar ansiosos?
Christian: En primer lugar, algunas cosas están diseñadas para ser no medibles, como los llamados "juegos de estatus" o cosas a las que los humanos atribuyen significado. Estas áreas no serán invadidas por máquinas, porque su característica es el consenso de coordinación entre humanos. Las criptomonedas son en cierto modo así, lo importante es el consenso humano sobre qué tiene valor. A medida que se reduce el ámbito del trabajo medible, inventaremos muchas formas de hacer significativo el trabajo no medible.
Anfitrión: La IA puede construir un sitio web en 10 segundos, pero quizás no pueda escribir un tuit atractivo para los humanos. ¿Podría ser este uno de los últimos trabajos de verificación que quedan?
Christian: Captar la atención, contar un chiste realmente novedoso, es un trabajo creativo extremadamente difícil, que intenta romper algo que nunca se ha medido. Hemos evolucionado a lo largo de una larga lucha por la supervivencia con una capacidad extremadamente fuerte para enfrentar entornos desconocidos. Las personas que hacen este tipo de trabajo son llamadas "creadores de significado". Por ejemplo, en el arte o la cultura, lo que es bueno depende del consenso humano. Incluso cuando utilizas un agente de IA, debes establecer la "intención".
Anfitrión: El coste de la automatización está cayendo exponencialmente, ¿qué pasará con el "coste de la verificación"? ¿Estará siempre sujeto a las limitaciones biológicas humanas?
Christian: Actualmente está sujeto a limitaciones biológicas. Así que muchas empresas publican grandes cantidades de código generado por IA, pero simplemente no hay suficientes recursos humanos para leerlo y verificarlo, lo que inevitablemente oculta riesgos.
Anfitrión: ¿No se podría usar IA para verificar IA?
Christian: Si la IA puede verificar correctamente, entonces esa parte en sí misma es automatizable. Después de agotar toda la verificación de IA, lo que queda es lo que realmente no puede ser verificado por la IA, y este es el cuello de botella para la intervención humana.
Anfitrión: Si la verificación es el nuevo recurso escaso, pero se está retrayendo constantemente, ¿cómo trabajar e invertir en esta economía?
Christian: Hicimos una matriz 2x2 basada en el "coste de automatización" y el "coste de verificación". La esquina inferior izquierda son los trabajadores reemplazados: automatización fácil, verificación fácil, definitivamente no quieres estar aquí. Los otros tres cuadrantes son:
Creadores de significado: Automatización difícil, verificación difícil. Se dedican al consenso social, juegos de estatus y conexión humana. Por ejemplo, los creadores de gusto en la moda, los KOLs de cripto en Twitter, que crean narrativas y coordinan la atención.
Suscriptores de responsabilidad: Automatización fácil, verificación difícil. Son los expertos estrella en un campo, como los mejores abogados, médicos o capitalistas de riesgo. Utilizan la IA a gran escala, pero brindan el servicio de asumir responsabilidad y verificación para los casos límite finales.
Directores: Automatización difícil, verificación fácil. El núcleo es la "intención". Se enfrentan a "desconocidos desconocidos", dirigen agentes como emprendedores, establecen la dirección, sienten la desviación y corrigen continuamente el rumbo.
Anfitrión: ¿Qué deben hacer los jóvenes que acaban de graduarse y quieren entrar en el mundo laboral? En un extremo están los trabajos junior sin valor, en el otro los expertos estrella que requieren una década de pulimento en la industria, hay una enorme brecha entre ambos. Si la IA puede hacer el trabajo junior, ¿cómo crecen los jóvenes hasta el otro extremo?
Christian: La brecha existe. Pero la buena noticia es que puedes comprimir el tiempo de aprendizaje. Puedes saltarte los pasos de formación tradicionales. Un ingeniero junior ahora con herramientas puede hacer el trabajo de lo que antes era un equipo. Aunque al principio cometerán errores, como novatos pueden cuestionar la tradición desde ángulos extremadamente novedosos, y esa es una ventaja. Pueden materializar ideas de formas que nosotros en nuestra juventud no podíamos hacer en absoluto. Tiene sus pros y sus contras.
El camino pasado: "obtener un título, encontrar unas prácticas, trabajar duro para ascender", realmente ya no existe, y esto causará un gran impacto cultural. Para los jóvenes que acaban de graduarse es muy difícil. Si todavía estás en la universidad, aún tienes tiempo para ver la dirección. Si estás atrapado en medio de esto, mi consejo es: ve y usa estas herramientas para construir algo. Tu ambición debería ser 100 veces mayor de lo que era la nuestra a esa edad.
dir="ltr">Anfitrión: ¿La desaparición masiva de trabajos de "apretar botones" sumirá a la sociedad en el caos a corto plazo?Christian: La sociedad siempre reinventará trabajos de "apretar botones" cuando sea necesario para mantener la estabilidad. Pero muchas personas que hacen este tipo de trabajo son capaces de hacer más, solo que estaban limitadas por el entorno. Cuando el trabajo manual ya no fue necesario, inventamos el gimnasio; hoy, frente a la liberación del trabajo mental, la gente desarrollará diversas actividades secundarias y economías de creadores para obtener una sensación de desafío. Esta es también la razón por la que creo que la "renta básica universal (UBI)" está completamente equivocada, las personas necesitan significado y motivación para la autorrealización. Además, incluso si una gran parte de tu trabajo actual es reemplazada por la automatización, si aprovechas bien la IA como superherramienta, un empleado junior que recién ingresa puede generar la producción de lo que antes era un equipo.
Anfitrión: ¿Algún consejo para empresas e inversores?
Christian: Para las empresas, invertir en infraestructura de verificación, ofrecer "responsabilidad como servicio" (es decir, no solo proporcionar el agente sino también asegurar las consecuencias). Además, dominar la "fuente exclusiva de hechos", porque la IA es susceptible de ser engañada, las empresas que puedan proporcionar datos exclusivos y reales como Bloomberg o evaluaciones profundas tendrán un valor enorme. Para los inversores, además de invertir en esto, enfóquense en la investigación y desarrollo dura "no medible". Los viejos efectos de red comunes podrían fallar, los nuevos efectos de red se construirán sobre cómo, a través de mejores comentarios reales, tu agente es más confiable que el de los demás, porque lo que la gente realmente quiere comprar es inteligencia verificada.
Anfitrión: ¿Es útil la tecnología cripto en este proceso de verificación?
Christian: La infraestructura subyacente construida por el espacio cripto en la última década es crucial. Cuando necesitemos determinar la autenticidad de la identidad y prevenir la toma de control de cuentas, tecnologías on-chain como la "prueba de personalidad" pueden proporcionar una verificación sólida. También está la procedencia de datos y la cadena de custodia criptográfica, necesitamos garantías criptográficas sólidas sobre la generación de información y el cumplimiento normativo de los modelos.
Anfitrión: ¿Qué debería hacer la gente en el próximo año? ¿Eres optimista sobre el futuro humano?
Christian: Primero, no entrar en pánico. Experimenta mucho, utiliza las herramientas para "desbancar" y automatizar tu yo actual. Muchas exploraciones de hobbies pueden convertirse en la carrera más significativa en el futuro. En el peor de los casos, también podrás descubrir los límites y defectos del modelo. Para muchos creadores en la red, los pasatiempos ya se han convertido en carreras, y esta será la dirección principal en el futuro. Si tienes hijos, descubrir su talento, sumergirlos en lo que aman es lo más importante. No hay una plantilla profesional fija, las nuevas herramientas de IA pueden ayudarte mejor a encontrar ese camino que es solo tuyo.
Lectura relacionada: Lectura nocturna | Diálogo con el capitalista de riesgo de Silicon Valley Bill Gurley: No busques seguridad, conviértete en la versión "potenciada por IA" de ti mismo
