Chez OpenAI, on est sur un coup potentiellement révolutionnaire ( ou pas , Google l’a déjà fait) : un détecteur de texte IA. L’idée ? Intégrer un watermarking invisible dans chaque mot de ChatGPT, une sorte de signature numérique cachée dans le texte. C’est un peu comme trouver le fil d’Ariane au milieu d’un labyrinthe de mots (Search Engine Journal) (Predictive Analytics World).
Le concept est aussi futé qu’un renard dans un poulailler : un dispositif cryptographique qui repère le contenu généré par l’IA grâce à un subtil code de mots et de ponctuations. Ce serait une arme redoutable contre la désinformation, promettant une transparence jamais vue. Mais, et c’est un gros ‘mais’ , la techno a ses failles
Pourquoi la Prudence ?
OpenAI sait que jouer avec le feu, c’est risqué. Le watermarking, aussi brillant soit-il, peut être contourné : un coup de reformulation avec un outil externe, et hop, le marquage disparaît. Et que dire des biais linguistiques? Les utilisateurs non anglophones pourraient être lésés, leurs contenus faussement marqués comme générés par l’IA.
Il y a aussi le spectre de la stigmatisation. Imaginez : utiliser ChatGPT pour vos projets, et vous retrouver étiqueté. Pas cool, hein ? Cela pourrait refroidir l’enthousiasme pour l’IA, surtout dans les environnements multilingues.
Un Outil, des Répercussions
OpenAI a déjà tenté le coup du détecteur de texte IA, mais a fait marche arrière. Pourquoi ? Un taux d’exactitude trop bas. Mais la quête continue : comment débusquer l’origine du texte sans faire exploser les compteurs de frustration ?
Au final, même si l’idée d’un watermarking fait saliver pour sa transparence, les implications éthiques et pratiques obligent à avancer sur des œufs. OpenAI avance prudemment, cherchant une méthode à la fois efficace et équitable pour tous les utilisateurs.