Les sociétés qui vendent de l'I.A. vendent aussi des solutions pour détecter les textes écrits avec une I.A. (Il n'y a pas de petit profit.)
Sauf que ces solutions sont elles-mêmes totalement pourries. Exemple cité dans cet article :
- Quand un article est écrit par une personne native de la langue, les détecteurs d'I.A. considèrent dans 0% à 12% des cas que le texte a été écrit par une I.A. Le taux de faux-positif est faible (même si 12% c'est déjà énorme).
- Quand un article est écrit par une personne NON native de la langue, les détecteurs se trompent et considèrent dans 48 à 76% des cas que le texte a été écrit par une I.A.
Si les directions des établissement d'enseignement utilisent ces détecteurs, ils pénalisent directement les étrangers. Donc dans les faits cette technologie de détection a un gros biais xénophobe et pénalise les étrangers.
EDIT: OpenAI retire d'ailleurs son outils de détection : https://decrypt.co/149826/openai-quietly-shutters-its-ai-detection-tool
(Permalink)