Artículos Relacionados con Sesgo Algorítmico

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Sesgo Algorítmico", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

Asimetría en la agencia algorítmica: cuando la IA toma decisiones por ti, ni siquiera tienes derecho a objetar

La asimetría de agencia algorítmica surge cuando los sistemas de IA toman decisiones que afectan a las personas sin que estas tengan la capacidad de observar, cuestionar o contrarrestar su influencia. Este desequilibrio se manifiesta en tres niveles: la opacidad de los sistemas (cajas negras inescrutables), la amplificación de sesgos históricos presentes en los datos de entrenamiento y la naturaleza recursiva de los sistemas, que aprenden de los usuarios y a la vez moldean su comportamiento, creando una "deriva algorítmica". Esta asimetría es política. Las organizaciones usan sistemas como motores de recomendación o puntuaciones de riesgo para probar, medir y optimizar resultados a gran escala con gran precisión, mientras que los individuos solo ven resultados aislados (un precio, una recomendación) sin entender la lógica subyacente. Las personas se adaptan a lo que el sistema recompensa, afectando ámbitos como la contratación, la educación o el trabajo, donde los algoritmos pueden perpetuar discriminaciones. Para reequilibrar esta relación, la política debe actuar. Las propuestas clave incluyen: 1) Transparencia significativa, notificando cuándo se interactúa con IA y explicando decisiones automatizadas; 2) Evaluaciones de impacto exigibles antes del despliegue en áreas de alto riesgo; 3) Supervisión humana efectiva, con poder real para anular resultados; 4) Monitoreo continuo post-implementación y auditorías independientes; 5) Prohibición de prácticas manipuladoras o explotadoras; y 6) Fomento de la alfabetización algorítmica como infraestructura cívica esencial. El objetivo no es eliminar la asimetría, sino hacer visible, cuestionable, auditable y gobernable la influencia de la automatización en los ámbitos más críticos.

marsbit07/17 12:23

Asimetría en la agencia algorítmica: cuando la IA toma decisiones por ti, ni siquiera tienes derecho a objetar

marsbit07/17 12:23

Trabajas en Meta, te tomas una licencia médica/por maternidad y al volver te despide la IA??

En Meta, 26 empleados actuales y anteriores han presentado una demanda colectiva en un tribunal federal de California, alegando que la empresa utilizó un sistema de IA para seleccionar despidos, discriminando sistemáticamente a quienes tomaban licencias protegidas por la ley, como maternidad, paternidad, médicas o por discapacidad. La denuncia, de 71 páginas, describe casos como el de una científica que recibió el despido mientras estaba de licencia prenatal, justo antes de dar a luz. Los demandantes, que incluyen ingenieros, diseñadores y gerentes, sostienen que el algoritmo de Meta, compuesto por herramientas como Metamate y "Second Brain", evaluó el rendimiento basándose en métricas de productividad (como commits de código o uso de herramientas de IA) sin tener en cuenta los períodos de ausencia legalmente protegidos. Así, una baja productividad durante la licencia se tradujo en una mayor probabilidad de ser incluido en la lista de despidos. Según la demanda, los gerentes a menudo no estaban al tanto de las decisiones, que parecían automatizadas. Un caso destacado es el de un ingeniero a quien su gerente disuadió de tomar una licencia médica, advirtiéndole que sería despedido, y que finalmente fue el único de su equipo desvinculado. Meta ha respondido que las acusaciones "carecen de fundamento" y que las decisiones de gestión de personal son tomadas por humanos, no por IA. La demanda busca una orden judicial para frenar los despidos, restaurar los puestos de trabajo y auditar el proceso algorítmico. El caso surge en un contexto de recorte del 10% de la plantilla de Meta (unas 8000 personas), pese a récords de ingresos, y de fuertes inversiones planificadas en IA. La demanda también menciona el polémico sistema de monitorización de empleados "MCI", desactivado tras una filtración de datos, y un programa de evaluación de desempeño vinculado al uso de IA.

marsbit07/15 11:44

Trabajas en Meta, te tomas una licencia médica/por maternidad y al volver te despide la IA??

marsbit07/15 11:44

活动图片