Раскрытие скрытой несправедливости в принятии решений мультиагентными системами: даже одинаковые итоговые показатели не гарантируют надежность
В исследовании, принятом на EMNLP 2026, представлен SCOPED-Hiring — фреймворк для диагностики справедливости в процессе принятия решений системами с несколькими ИИ-агентами (MAS) на базе больших языковых моделей (LLM). Работа показывает, что даже при схожих финальных показателях найма (например, равный процент одобренных кандидатов в разных группах) в самом процессе могут скрываться значительные несправедливости: кандидаты с перерывами в карьере подвергаются большему сомнению, косвенные признаки (уровень вуза, город) влияют на оценку компетенций, а идентификационные признаки приводят к неравному уровню проверки и допроса.
SCOPED анализирует более 311 000 структурированных траекторий решений через шесть взаимодополняющих перспектив: результат, контрафактический анализ, процесс, путь, динамика взаимодействия агентов и дизайн системы. Эксперименты с GPT, Gemini и Qwen подтверждают, что риски, выявляемые при анализе процесса (перспективы O, P, E, D), в 2.74–4.66 раза значительнее, чем при взгляде только на финальный результат.
На основе диагностики разработаны целевые «Fair Skills» — вмешательства, которые активируются в конкретных рискованных точках процесса (например, при необоснованных выводах из карьерного перерыва). Это снизило совокупную нагрузку несправедливости на 72.3%, при этом финальная доля найма изменилась лишь на 1.86 п.п. Исследование подчеркивает, что для доверия к ИИ в высокорисковых сферах необходима проверка не только итоговых решений, но и всего пути их формирования.
marsbit09/09 08:43
