OpenAI ne filigranera pas le texte ChatGPT car ses utilisateurs pourraient se faire prendre

OpenAI dispose d’un système de filigrane pour le texte généré par ChatGPT et d’un outil de détection de filigrane prêt depuis environ un an. rapports le journal Wall StreetMais il existe un désaccord au sein de l’entreprise sur la question de savoir si le film doit être publié ou non. D’un côté, cela semble être un travail responsable ; En revanche, cela peut affecter les bénéfices de l’entreprise.

Le filigrane d’OpenAI est décrit de manière à ajuster la façon dont le modèle prédit les mots et les phrases les plus probables qui suivront les précédents, créant ainsi un modèle détectable. (Il s’agit d’une simplification, mais vous pouvez consulter l’explication plus détaillée de Google sur le filigrane de texte de Gemini pour plus de détails).

L’entreprise a apparemment constaté que cette IA est « efficace à 99,9 % » pour rendre un texte reconnaissable lorsque la quantité est suffisante – une aubaine potentielle pour les enseignants qui tentent d’empêcher les élèves d’attribuer des devoirs écrits à l’IA – sans affecter la qualité du texte. la sortie texte de son chatbot. Dans une enquête menée par l’entreprise, « les gens du monde entier ont soutenu l’idée d’un outil de détection d’IA dans une proportion de quatre contre un ». revue Écrivons.

Mais il semble qu’OpenAI craigne que l’utilisation du filigrane puisse frustrer les utilisateurs de ChatGPT, dont environ 30 % ont apparemment déclaré à l’entreprise qu’ils utiliseraient moins le logiciel si le filigrane était implémenté.

Selon le rapport, certains employés avaient également d’autres préoccupations, par exemple si le filigrane pouvait être facilement contourné en utilisant des astuces telles que déplacer le texte d’une langue à l’autre avec Google Translate ou ajouter des emojis à ChatGPIT et les supprimer ultérieurement. revue,

Malgré cela, les employés estiment toujours que cette approche fonctionne. Cependant, compte tenu des sentiments croissants des utilisateurs, l’article indique que Certains ont suggéré d’essayer des méthodes « moins controversées parmi les utilisateurs, mais non éprouvées ». Je crois qu’il vaut mieux avoir quelque chose que rien.