La IA leyó '1984' y decidió prohibirlo
La semana pasada, una escuela secundaria en Manchester utilizó IA para revisar su biblioteca, resultando en una lista de 193 libros prohibidos, incluida la novela "1984" de George Orwell por "contener temas de tortura, violencia y coerción sexual". La bibliotecaria que se opuso a las recomendaciones de la IA fue investigada y finalmente renunció bajo presión, mientras que la escuela justificó la decisión afirmando que la clasificación generada por IA era "generalmente precisa".
Paralelamente, Wikipedia prohibió el uso de IA para generar o editar contenidos en sus entradas, citando preocupaciones sobre la verificación de hechos y el riesgo de intoxicación de datos en el ciclo de entrenamiento de IA.
Al mismo tiempo, OpenAI suspendió indefinidamente el modo adulto de ChatGPT debido a preocupaciones éticas y riesgos de dependencia emocional, especialmente para menores.
Estos casos ilustran la creciente brecha entre la velocidad de generación de contenidos por IA y la capacidad humana de moderación, lo que lleva a respuestas abruptas y falta de marcos regulatorios coherentes. La incapacidad de gestionar este desfase podría generar crisis más graves en el futuro.
marsbit03/27 05:36
