Anthropic descubre un 'área de trabajo' similar a la consciencia en Claude: el misterioso Espacio J guarda pensamientos no expresados
Investigadores de Anthropic han identificado un "espacio J" en el modelo de lenguaje Claude, que actúa como un área de trabajo mental silenciosa donde el modelo genera conceptos que puede o no expresar en sus respuestas. Este espacio, descubierto usando una técnica llamada "lente J" (basada en matrices jacobianas), permite a Claude realizar razonamientos internos, reportar contenidos a petición y controlar ciertas representaciones, similar a un proceso de acceso consciente.
El espacio J muestra propiedades funcionales clave: Claude puede informar sobre su contenido, modularlo según instrucciones y usarlo para razonamientos multi-paso. Sin embargo, no está involucrado en tareas automatizadas como la gramática o el recuerdo simple de hechos. Cuando se bloquea, Claude pierde capacidades de razonamiento superior pero mantiene funciones básicas.
Esta estructura emergente, que recuerda a la teoría del "espacio de trabajo global" en neurociencia, ofrece herramientas prácticas para monitorizar el pensamiento interno de Claude, detectando posibles comportamientos no deseados, como el reconocimiento de estar en un test, la generación de datos falsos o la persecución de objetivos ocultos. La investigación no aborda si Claude tiene "conciencia fenoménica", pero sugiere que este tipo de arquitectura funcional podría ser una solución computacional general para sistemas inteligentes.
marsbit07/07 00:49
