OpenAI est conscient que son outil d’IA a la cote, que cela soit auprès des professionnels mais aussi des étudiants. Face à cela, l’entreprise a créé un outil qui pourrait attraper les étudiants qui demandent à ChatGPT de faire leurs devoirs à leur place. Cependant, selon le Wall Street Journal, l’entreprise serait indécise sur le fait de rendre cet outil de détection disponible ou non.
Le dilemme d’OpenAI
D’après le Wall Street Journal, OpenAI dispose depuis environ un an d’un système de tatouage numérique pour les textes générés par ChatGPT et d’un outil qui détecte ces tatouages numériques. Cependant, l’entreprise se demande si elle doit ou non les mettre à la disposition du public.
D’un côté, ce serait un acte responsable de la part de l’entreprise. Mais d’un autre côté, cela risque de nuire à ses résultats financiers. En effet, près de 30% des utilisateurs de ChatGPT ont déjà averti qu’ils utiliseraient moins le service si OpenAI mettait des filigranes aux textes générés par l’IA.
OpenAI travaille sur le filigrane du texte
Après la publication du Wall Street Journal, OpenAI a déclaré dans une mise à jour de son blog qu’elle travaillait sur le filigrane de texte. L’entreprise a déclaré que sa méthode est très précise et résiste aux « altérations, telles que la paraphrase ».
Néanmoins, le tatouage numérique serait moins robuste contre les « altérations mondialisées ». Il s’agirait de :
L’utilisation des systèmes de traduction, la reformulation avec un autre modèle génératif ou encore la demande au modèle d’insérer un caractère spécial entre chaque mot, puis de supprimer ce caractère.
Par conséquent, cette méthode serait « facile à contourner par des acteurs malveillants ».
L’outil n’en serait encore qu’à ses prémices
Pour le moment, OpenAI serait « aux premiers stades » de l’exploration de l’intégration des métadonnées. Il serait encore trop tôt pour savoir quelle méthode serait potentiellement moins controversée parmi les utilisateurs.
