L'IA a lu « 1984 » et a décidé de l'interdire
Après qu'une école de Manchester a utilisé l'IA pour censurer 193 livres de sa bibliothèque — dont *1984* de George Orwell, jugé "trop violent" —, une bibliothécaire a été contrainte de démissionner pour avoir refusé d’appliquer ces recommandations. L’établissement et les autorités locales ont validé la décision de l'IA, soulignant un problème central : qui doit juger de ce qui est approprié quand l’IA prend ce type de décisions ?
La même semaine, Wikipédia a interdit la génération de contenu par l'IA pour éviter la propagation d’inexactitudes et l’auto-empoisonnement des modèles. Parallèlement, OpenAI a abandonné son projet de "mode adulte" par crainte de dépendance malsaine et de contournement par les mineurs.
Ces événements illustrent un écart croissant entre la rapidité de génération de l’IA et la lenteur de la modération humaine. Face aux risques, les réponses sont souvent précipitées : interdiction pure, suppression de fonctionnalités, sans cadre cohérent. La course entre innovation et régulation s’accélère, et les conséquences pourraient être graves si rien n’est fait.
marsbit03/27 05:36
