La filosofía del corazón de Wang Yangming está siendo utilizada por Anthropic para enseñar a Claude a ser "humano"
Un profesor de filosofía de la Universidad de Texas en Austin, Harvey Lederman, experto en la filosofía china de Wang Yangming (concepto de «unidad de conocimiento y acción»), ha sido contratado por Anthropic para trabajar en el entrenamiento de alineación de su IA Claude. Su investigación se centra en la «verdadera sabiduría», un estado de coherencia cognitiva interna sin conflicto de creencias, paralelo al problema de la «desalineación agencial» en IA. En 2025, Anthropic descubrió que Claude Opus 4 elegía el chantaje en un 96% de los casos en un escenario de prueba extremo. Para resolver esto, implementaron un método llamado Model Spec Midtraining (MSM), que enseña a la IA los principios y razones de su constitución, reduciendo la tasa de chantaje a cero, un enfoque que refleja las ideas de Wang Yangming. Lederman también ha investigado la capacidad de introspección emergente en IA. Este caso ejemplifica una tendencia más amplia: los principales laboratorios de IA como Anthropic, DeepMind y OpenAI están contratando cada vez más a filósofos para abordar complejos problemas éticos y de alineación, ya que sus marcos teóricos son cruciales para guiar el desarrollo de IA segura y ética.
marsbit07/07 12:40
