Actuellement, les outils d’édition basés sur l’intelligence artificielle sont de plus en plus performants. Par conséquent, certaines retouches deviennent quasiment indétectables. Néanmoins, Google a décidé de renforcer la transparence autour des images générées ou modifiées par l’IA en les marquant d’un filigrane secret !
SynthID marque automatiquement et discrètement les photos modifiées par l’IA
Depuis quelques jours, Google Photos ajoute un filigrane numérique aux photos retouchées avec son outil Magic Editor. Ce dernier s’appuie sur SynthID, une technologie mise au point par DeepMind, qui signale discrètement les images modifiées par l’intelligence artificielle. L’objectif ? Lutter contre la propagation d’images trompeuses et offrir aux utilisateurs un moyen simple de détecter si une IA a touché à une photo.
Concrètement, SynthID insère un marquage indétectable à l’œil nu directement dans les pixels de l’image. Contrairement aux filigranes traditionnels, ce marquage ne s’enlève pas facilement. Et ce, même après avoir opéré une compression ou des modifications sur l’image. Ainsi, lorsqu’un utilisateur modifie une image avec Reimagine, l’image sera automatiquement marquée pour signaler son altération.
Cet outil de traçabilité ne se cantonnera pas à Google Photos
Il faut néanmoins savoir que toutes les modifications ne sont pas systématiquement marquées. En effet, si l’utilisateur opère de légers ajustements, comme une petite correction de couleur, alors SynthID pourrait ne pas marquer l’image. Par ailleurs, Google Photos proposera également l’option « A propos de cette image ». Cette option permettra aux utilisateurs de vérifier la présence d’un filigrane.
En tout cas, Google ne compte pas s’arrêter aux images. SynthID pourra également marquer les autres formats comme les vidéos, les textes ou encore la musique générée par son modèle Lyria. Pour le texte, le système ajustera subtilement les probabilités des mots générés par l’IA pour y insérer une signature discrète. Quant à l’audio, le filigrane sera inséré dans les ondes sonores de manière inaudible. Cette technologie de Google serait encore en constante évolution et compte s’imposer comme une référence pour détecter les contenus générés par l’intelligence artificielle.
