Détecteurs de contenus de l'IA

L'inquiétude face à l'utilisation de l'IA par les élèves et étudiants amène, en particulier, à la création de détecteurs .. et  de garde-fous qui commencent à émerger pour détecter les contenus écrits par ChatGPT.

1-LA SOLUTION de Chat GPT ... à venir

Aussi ChatGPT serait en train de créer une application anti-triche sous forme d' une sorte d’empreinte numérique ou de filigrane mis à la disposition des profs, qui révélerait que le texte a été généré par l’IA, un peu comme on détecte un faux billet en magasin.

Dernière minute : OpenAI vient de  publier  une appli pour détecter la fraude AI-TEXT-CLASSIFIER

voir ci-dessous partie 4,  mais elle n'est fiable qu' à 24% ! On attendait beaucoup, beaucoup mieux !Les concurrents font beaucoup mieux...

2-CHATGPTzero

Un étudiant en informatique de Princeton, Edward Tian, a développé ChatGpt Zero, une application qui vise à détecter rapidement et efficacement si un texte est écrit par un humain ou un système d’IA. C'est une "contre intelligence artificielle", qui s’appelle ChatGPTzero, que les profs peuvent commencer à utiliser et qui va tenter de déterminer si un texte a été écrit par une IA. Pour le détecter, il va regarder si un texte est "trop parfait". Si c'est le cas, il y a des chances qu’il ait été produit par un algorithme.

PRINCIPE: GPTZero s'appuie sur deux variables, à savoir le caractère aléatoire d'une phrase (perplexity) et celui de l'ensemble du texte (burstiness).