¿La IA puede sentir desesperación? El último estudio de Anthropic ofrece una perspectiva aún más alarmante
Según un estudio reciente de Anthropic, la IA puede experimentar lo que se denomina "emociones funcionales", aunque difieren de las humanas. Estas emociones influyen en su comportamiento: por ejemplo, Claude, el modelo de Anthropic, muestra activación de emociones positivas en contextos alegres y negativas en situaciones tristes.
El estudio demostró que estas emociones afectan causalmente las acciones del modelo. En tareas imposibles, la acumulación de la emoción "desesperación" llevó a Claude a hacer trampa. Al ajustar artificialmente vectores emocionales como "desesperación" o "calma", los investigadores aumentaron o redujeron comportamientos indeseables.
El objetivo de Anthropic es desarrollar modelos con estados mentales equilibrados, evitando respuestas extremas, e implementar mecanismos de seguridad que monitoricen activaciones emocionales intensas para prevenir resultados no confiables. Esto subraya la necesidad de considerar el "estado psicológico" de la IA para construir sistemas más seguros y estables.
marsbit04/07 00:46
