Xing Bo vuelve a actuar: después de 'criticar' los modelos mundiales, ahora le toca a los agentes inteligentes
L'any passat, el professor Xing Bo de MBZUAI i CMU va criticar els models mundials. Ara, ell i els seus col·legues publiquen "Crítica del Model d'Agent" a arXiv, qüestionant el terme sobretitlitzat "agent" en IA. El treball distingeix entre sistemes "agentics" (amb aparença d'agent) i "agentius" (veritablement autònoms), argumentant que la majoria dels anomenats agents actuals només segueixen fluxos de treball i indicacions externes, sense autonomia real.
L'article analitza cinc dimensions clau: objectius, identitat, presa de decisions, profunditat del raonament i aprenentatge. Proposa que un agent veritable hauria de descompondre objectius a llarg termini, ajustar la seva identitat amb l'experiència, utilitzar models mundials per a una planificació simulada, tenir un mòdul metacognitiu (anomenat Sistema III) per regular la profunditat del pensament i aprendre de manera autònoma i contínua.
Com a solució, presenta l'arquitectura GIC (Goal-Identity-Configurator), que integra sis components: un codificador de creences, un descomponedor d'objectius, un evolucionador d'identitat, un configurador (Sistema III), un planificador simulat (Sistema II) i un executor (Sistema I). Aquesta estructura pretén internalitzar l'autonomia.
Finalment, el document aborda la seguretat, argumentant que en GIC, els comportaments problemàtics es poden atribuir a objectius humans incorrects o mòduls mal entrenats. Destaca la "revisabilitat" de la seva arquitectura modular com a avantatge clau per a la seguretat, tot i admetre que el repte de formar correctament aquests mòduls persisteix.
marsbit07/01 11:30
