UnMarker est un outil gratuit open source de l’Université de Waterloo capable de supprimer et d’éffacer les filigranes invisibles des images IA qui ont donc été générées par intelligence artificielle. En ciblant le canal spectral commun à la plupart des watermarkings, cet outil neutralise les marques numériques sans dégrader visuellement les images, remettant ainsi en cause la fiabilité des systèmes actuels de traçabilité et de détection des contenus IA.
UnMarker, l’Outil Gratuit qui Supprime les Filigranes des Images IA
Des chercheurs en informatique de l’Université de Waterloo, au Canada, ont mis au point UnMarker, un outil capable de supprimer les filigranes numériques (watermarks) insérés dans les images IA générées par intelligence artificielle. Ce logiciel fonctionne en quelques minutes sur une puissante carte graphique Nvidia A100 de 40 Go, et permet d’effacer des marques invisibles destinées à attester de la provenance des images ou à détecter les deepfakes.
Un défi pour les stratégies de watermarking
La technique du watermarking consiste à modifier les données d’une image pour y insérer une signature numérique, souvent imperceptible, afin d’identifier sa source ou d’indiquer qu’elle a été créée par une IA. Cette méthode est censée lutter contre la propagation de contenus nuisibles, frauduleux ou non consentis, un enjeu croissant depuis le boom des générateurs d’images IA.
Des géants technologiques comme Amazon, Google et OpenAI avaient annoncé en 2023 un soutien important à ces techniques, Google ayant notamment développé son système SynthID, et Meta proposant Stable Signature. Cependant, les chercheurs Andre Kassis et Urs Hengartner de l’Université de Waterloo, à travers leur article académique « UnMarker : A Universal Attack on Defensive Image Watermarking » présenté lors du 46e Symposium IEEE sur la Sécurité et la Vie Privée, mettent en doute l’efficacité de ces dispositifs.
Le principe d’UnMarker : neutraliser le canal porteur
UnMarker agit sans avoir besoin de connaître les détails internes du watermark, ni d’accéder au mécanisme ou au détecteur de la marque. Le secret réside dans la nature universelle du « carrier », soit le canal spectral dans lequel la plupart des filigranes numériques sont incorporés via des modifications des amplitudes fréquentielles des pixels. En perturbant ce canal spectral de manière subtile, UnMarker parvient à effacer la présence des filigranes sans altérer visuellement l’image. Résultat : les images modifiées passent inaperçues des systèmes de détection et de blocage du contenu IA.
Résultats spectaculaires contre plusieurs méthodes
L’équipe de Waterloo a testé UnMarker contre divers schémas de watermarking, incluant Yu1, Yu2, HiDDeN, PTW, Stable Signature, StegaStamp, et TRW. Après traitement, le meilleur taux de détection des filigranes ne dépassait pas 43%, seuil considéré comme inefficace pour garantir la fiabilité. Même le système commercial SynthID de Google, testé ultérieurement par Kassis, voit son taux de détection chuter de 100% à environ 21% une fois les images passées dans UnMarker.
Une confirmation des limites du watermarking
Ces travaux rejoignent d’autres études, notamment celles de l’Université du Maryland en 2023 et plus récemment d’équipes de DeepMind et de l’Université du Wisconsin-Madison, qui ont souligné l’absence d’une méthode robuste combinant sécurité, inviolabilité et détection publique pour certifier la provenance des images numériques. Ces dernières recherches pointent aussi les faiblesses des systèmes basés sur les signatures numériques dans les métadonnées, comme le standard C2PA.
Un message d’avertissement pour la communauté technologique
Avec un investissement massif de l’industrie et de gouvernements, notamment les récents engagements pris à la Maison Blanche pour développer le watermarking, cette découverte souligne que ces stratégies ne garantissent pas une sécurité optimale contre la manipulation malveillante.
Comme le rappelle Andre Kassis, il est crucial de mettre la sécurité au cœur du développement des IA, et de ne pas céder à l’excitation du progrès sans anticiper les risques d’abus : « Nous sommes toujours surpris par la capacité des acteurs malveillants à contourner ces protections ».
Utilisable hors ligne sur un ordinateur personnel
En pratique, UnMarker est disponible en open source sur sa page GitHub [par ici], il peut donc être installé et utilisé sur n’importe quel ordinateur disposant des ressources matérielles nécessaires, notamment une carte graphique puissante telle que la Nvidia A100 de 40 Go, comme mentionné dans les travaux initiaux. Son caractère open source facilite son déploiement sur différents systèmes, sous réserve des prérequis techniques (équipement, environnement logiciel).
En résumé
UnMarker révèle que les filigranes numériques actuels sont vulnérables à une suppression quasi universelle, remettant en cause leur rôle de rempart efficace contre la diffusion d’images produites par intelligence artificielle à des fins malintentionnées. Cette avancée invite à repenser les approches pour garantir l’authenticité et la traçabilité des contenus visuels à l’ère de l’IA.
Tout ce qui est fait par l’être humain peut être défait par lui !
