La partie la plus difficile de la conception de l'expérience utilisateur de détection de l'IA est peut-être de savoir comment transmettre efficacement les résultats de détection. Lorsqu'un paragraphe de contenu est marqué comme "écrit par l'IA", l'utilisateur demandera alors: pourquoi?

Notre modèle de détection produit un score de confiance numérique pour chaque catégorie de prédiction (principalement ?AI?, ?humain? ou ?mixte?). Cependant, il est beaucoup plus difficile d'expliquer pourquoi les textes sont classés comme générés par l'IA ou par l'homme.

Premièrement, notre modèle est capable d'apprendre les relations complexes entre les phrases dans un document et d'utiliser ces relations pour distinguer les textes générés par l'IA et de l'homme. Mais ces mécanismes internes ne correspondent pas nécessairement à des concepts intuitifs tels que les styles d'écriture d'IA (tels que les ?clichés?) que nous comprenons habituellement.

De plus, le texte généré par l'AI n'est pas toujours complètement différent du texte écrit humain, ni l'étiquette complètement exclusive mutuellement. Par exemple, si vous tapez CHATGPT: "Récitez le premier paragraphe de la Déclaration d'indépendance", il sortira ce célèbre texte intact. Alors, cela signifie-t-il que la littérature fondatrice des états-Unis devrait être classée comme contenu généré par l'IA?

Rendre la détection de l'IA visible

Malgré les difficultés inhérentes, il est toujours de notre responsabilité d'aider les utilisateurs à comprendre autant que possible les ?raisons? de la détection de l'IA. Au cours de la dernière année, nous avons lancé une série d'outils pour y parvenir. Par exemple, notre fonctionnalité de vocabulaire IA met en évidence des mots et des phrases qui sont plus susceptibles d'appara?tre dans le texte généré par de grands modèles de langage. De plus, nous avons récemment ajouté une fonctionnalité d'interprétation du langage naturel (NLE) à notre modèle de détection de base. NLE décrit les similitudes entre le texte numérisé et le texte de l'IA dans l'ensemble de formation dans un anglais facile à comprendre.

La dernière tentative de GPTZero pour améliorer l'intelligibilité de la détection de l'IA est de lancer une nouvelle fonctionnalité: comparer avec le texte d'IA (Interne CodeSaMed LLM Parrot ), un outil qui permet aux utilisateurs de comparer leur texte AI suspect avec du texte généré par AI connu obtenu directement à partir de l'API OpenAI. Deux paragraphes de texte sont affichés c?te à c?te et des mots similaires seront mis en évidence. Cette méthode de comparaison fournit aux utilisateurs des résultats d'analyse personnalisés, non seulement couvrant les modèles d'expression d'IA courants (tels que " jouer un r?le significatif dans la mise en forme "), mais également l'adaptation contextuelle basée sur le type de contenu analysé.

L'interface d'outil "Comparer avec le texte de l'IA" utilisé dans le document sur "L'impact du Gulfstream sur le climat européen"

Pour utiliser la fonction "Comparer avec le texte AI", vous pouvez écrire des invites manuellement ou sélectionner "Auto Generate", et le système créera automatiquement une invite ciblée de longueur raisonnable en fonction du texte que vous avez saisi. Par exemple, si vous soumettez un document sur le processus de construction de la tour de télévision nationale au Canada, le système peut générer une invite comme "écrire un papier de 500 mots sur le processus de construction de la tour CN". L'invite est ensuite envoyée à Chatgpt, et la réponse qu'il renvoie est directement récupérée du serveur OpenAI et présenté.

Pourquoi développer cette fonctionnalité?

Avant cela, certains utilisateurs ont essayé d'effectuer des opérations similaires manuellement: copier leur texte dans Chatgpt, nécessiter un contenu similaire pour être généré, puis comparer ligne par ligne pour trouver la pièce qui se chevauche. Ce processus prend du temps et fastidieux, et il est facile de manquer un contenu correspondant. Comparez avec le texte de l'IA est con?u pour automatiser ce processus, tout en identifiant les fragments de correspondance étroite qui sont difficiles à détecter chez l'homme.

Une fois la réponse complète de Chatgpt téléchargée, le système met en évidence des parties similaires des deux textes et ajoute un nombre à c?té des paragraphes correspondants pour identifier la relation correspondante. Par exemple, dans la capture d'écran, l'expression "la c?te orientale des états-Unis" appara?t à la fois dans le texte généré explicitement par Chatgpt et la zone de texte soumise par l'utilisateur (dans ce cas, ce dernier est réellement généré par Chatgpt).

Bien que l'exemple ci-dessus contient un grand nombre de correspondances de texte complètement cohérentes, nous utilisons un algorithme de correspondance de cha?ne floue pour comparer le texte généré OpenAI avec le texte d'entrée utilisateur d'origine, afin que nous puissions également identifier des paires de texte similaires. L'algorithme est basé sur la version améliorée de la distance de Levenshtein , à la recherche de fragments de texte qui ne nécessitent qu'une petite quantité d'édition (comme le remplacement des mots individuels) pour être exactement le même.

L'utilisation de cette fonctionnalité est très simple: démarrez une analyse avancée (ou basculer vers la vue de numérisation avancée via la barre latérale droite), cliquez sur Comparer avec le texte AI , entrez une invite (ou sélectionnez automatiquement), puis cliquez sur "Générer le texte AI". Une fois la réponse ChatGPT terminée, le résultat correspondant appara?tra automatiquement.

Quelles sont les significations réelles de ces résultats correspondants

Cette fonctionnalité est une étape importante pour aider les utilisateurs de GPTZero à visualiser "la similitude de l'IA". Il fonctionne indépendamment de notre modèle de détection de base d'IA et fournit une référence indépendante externe pour les signes d'utilisation de l'IA. Cela signifie que même si un document est jugé par notre modèle principal comme "probablement généré pour l'IA", il n'est pas nécessairement possible de trouver du contenu correspondant à ChatGpt (ou à d'autres LLM) dans cette fonctionnalité.

Vice versa, un document classé comme ?rédigé par l'homme? par GPTZero peut également appara?tre en comparaison multiples correspondants aux textes générés par l'IA (rappelant l'exemple susmentionné de la déclaration d'indépendance, dont la production est essentiellement ?créée par l'homme?). De plus, le modèle de grande langue est essentiellement un système probabiliste, et le contenu généré est légèrement différent à chaque fois, donc les résultats correspondants changent également en conséquence.

Néanmoins, selon les observations empiriques, les textes générés par l'IA produisent généralement beaucoup plus de correspondances que l'écriture humaine. Prenant cet article à titre d'exemple, sous l'invite générée automatiquement suivante, aucune correspondance n'a été trouvée dans la fonction de texte compare avec l'IA :

"Rédaction d'une description détaillée du produit, en introduisant une nouvelle fonctionnalité d'outil de détection d'IA qui améliore la compréhension des utilisateurs de la classification du contenu AI en comparant le texte soumis à l'utilisateur avec le texte généré par l'IA."

En simplifiant le processus de comparaison entre le texte de l'utilisateur et le texte raisonnable généré par l'IA, nous élargissons davantage l'ensemble d'outils d'interprétation globale, fournissant aux utilisateurs une transparence et une confiance sans précédent dans nos résultats de détection d'IA.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!