L'arrivée de l'INTELLIGENCE ARTIFICIELLE accessible au grand public surprend et effraie... Voici un ABC de l'IA pour essayer de mieux comprendre et utiliser.
Ne sont présentés et expliqués que des outils "grand public" simples et gratuits.

Détecteurs de contenus de l'IA



L'inquiétude face à l'utilisation de l'IA par les élèves et étudiants amène, en particulier, à la création de détecteurs .. et  de garde-fous qui commencent à émerger pour détecter les contenus écrits par ChatGPT.


1-LA SOLUTION de Chat GPT ... à venir

Aussi ChatGPT serait en train de créer une application anti-triche sous forme d' une sorte d’empreinte numérique ou de filigrane mis à la disposition des profs, qui révélerait que le texte a été généré par l’IA, un peu comme on détecte un faux billet en magasin.

Dernière minute : OpenAI vient de  publier  une appli pour détecter la fraude AI-TEXT-CLASSIFIER
voir ci-dessous partie 4,  mais elle n'est fiable qu' à 24% ! On attendait beaucoup, beaucoup mieux !Les concurrents font beaucoup mieux...





2-CHATGPTzero

Un étudiant en informatique de Princeton, Edward Tian, a développé ChatGpt Zero, une application qui vise à détecter rapidement et efficacement si un texte est écrit par un humain ou un système d’IA. C'est une "contre intelligence artificielle", qui s’appelle ChatGPTzero, que les profs peuvent commencer à utiliser et qui va tenter de déterminer si un texte a été écrit par une IA. Pour le détecter, il va regarder si un texte est "trop parfait". Si c'est le cas, il y a des chances qu’il ait été produit par un algorithme.

PRINCIPE: GPTZero s'appuie sur deux variables, à savoir le caractère aléatoire d'une phrase (perplexity) et celui de l'ensemble du texte (burstiness).



 
Un exemple avec une reconnaissance réussie




Au final, GPTzero donne un  score de perplexité :
-si le score est est élevé (= ou > 200),  cela signifie que GPTZero  estime que le texte est  susceptible d'avoir été écrit par un humain.
-si à  l'inverse,  le score est  faible,  comme ici (105) le texte pourrait bien être l'œuvre d'une IA

Pour le texte  ci-dessus produit par  GPT, les résultat est :


Malheureusement, ça ne fonctionne pas à tous les coups.
 Voir l'article de Commentçamarche

Compléments




3-DRAFT & GOAL

Draft and Goal a mis au point une intelligence artificielle qui détecte 93% des contenus issus de ChatGPT.
Vincent Terrasi cofondateur de la Start Up franco-canadienne «Draft and Goal » a conçu avec ses équipes un précieux outil pour les professeurs, le détecteur ChatGPT . Il analyse le texte et révèle si les élèves ont ont eu recours à l’intelligence artificielle ou non !

=> Impossible, pour le moment à tester, car il ne fonctionne qu'en anglais... mais le français va bientôt arriver.
https://detector.dng.ai/fr




Le fonctionnement

Les utilisateurs peuvent entrer un texte, de 400 caractères minimum, dans un onglet dédié. Le détecteur se charge du reste: après une rapide analyse, il est capable d’établir si tout ou une partie du texte a été écrit par une intelligence artificielle. L’ampleur du recours à l’IA est fixée par une note allant de 0 à 100%.

Le principe

C'est une une intelligence artificielle qui... détecte l’intelligence artificielle à partir d'une multitude d’indices : répétitions, utilisation de termes creux ( verbes passe partout comme «faire», erreur et confusions... Tous ces éléments permettent d’établir le pourcentage final.

Pour qui ?
Il s'agit d’aider les enseignants en détresse. Depuis que Chat GPT est accessible à tous, beaucoup se sentent démunis et retrouvent des copiés-collés de textes fournis par l’intelligence artificielle lors des corrections.

Est-ce fiable?
Aujourd’hui, nous sommes certains de détecter 93% des contenus en anglais rédigés par l’intelligence artificielle. Seuls 7% des textes nous échappent complètement.
Le détecteur en français devrait être disponible d’ici quelques jours, nous attendons d’atteindre les 92% de fiabilité avant de pouvoir le proposer.
La difficulté est d’arriver à repérer l’usage de l’IA lorsque l’étudiant a modifié quelques mots afin d’être plus discret, c’est ce qui explique cette marge d’erreur.


Sources 





4-DE NOUVEAUX DETECTEURS ARRIVENT 

Le détecteur d'OpenAI : AI-TEXT-CLASSIFIER

OpenAI (startup mère de ChatGPT) a présenté un outil détecteur, mais... peu efficace.
Il est «impossible de détecter de manière certaine tous les textes écrits avec de l'IA», prévient OpenAI dans un communiqué. Selon les premiers essais de la start-up, son détecteur ne repère que 26 % des textes écrits par un chatbot. Dans 9% des cas, il attribue un texte rédigé par un humain à une intelligence artificielle. Les textes modifiés par l'Homme échappent également à sa surveillance. L'efficacité du détecteur s'améliore à mesure que la longueur du texte d'entrée augmente. «Il est donc très peu fiable sur les textes courts inférieurs à 1.000 signes», précise le communiqué.

Chaque document est étiqueté comme très improbable , improbable , incertain s'il est , possiblement ou probablement généré par l'IA.






Openai detector
C'est une fonctionnalité développée par Huggingface  pour aider les webmarketeurs à vérifier si leurs contenus semblent être générés par l’intelligence artificielle avant de les mettre en ligne afin d’éviter les pénalités de Google.
L’outil GPT-2 Output Detector de HuggingFace, basé sur le code d’OpenAI, examine votre texte et vous indique la probabilité qu’il ait été écrit par un humain ou une IA.

ici, le texte produit par ChatGPT est considéré comme authentique !


L’outil marque une barre bleue pour indiquer la probabilité pour laquelle le contenu est authentique, écrit par des personnes réelles et marque une autre barre rouge pour donner le niveau de probabilité à laquelle il s’agit d’un contenu généré par l’intelligence artificielle.

Pour vérifier le niveau d’authenticité de votre texte, rendez-vous sur la page web de l’outil openai detector de huggingface.
Ensuite, coller votre texte à vérifier dans le cadre réservé, puis l’outil fournit automatiquement des chiffres.
Pour faire une vérification, votre texte doit comprendre entre 50 à 700 mots. Si votre texte dépasse 700 mots, l’outil ne pourra pas exécuter l’analyse.
A savoir... Les développeurs ont mené des tests en interne, et le classificateur a identifié 26% des textes écrits par l'IA comme étant « probablement écrits par l'IA ». À l'inverse, il a attribué 9 % des textes humains à une machine.


Sources :