Avec Glaze, les artistes «empoisonnent» leurs œuvres pour éviter que l’intelligence artificielle ne les copie

1 an ago · Updated 1 an ago

Avec Glaze, les artistes «empoisonnent» leurs œuvres pour éviter que l’intelligence artificielle les copie

Dans une ère numérique où l'art et la technologie s'entrecroisent, découvrez Glaze, le bouclier ingénieux des créateurs, qui déjoue les intelligences artificielles pillardes.

Table
  1. La genèse de Glaze
  2. Glaze et Nightshade
  3. Le fonctionnement subtil de Glaze
  4. L'efficacité de la contre-mesure
  5. Les implications pour les créateurs et l'industrie de l'IA

La genèse de Glaze

Face à l'exploitation sauvage de données par des développements en intelligence artificielle (IA), des artistes ont cherché des solutions pour protéger leurs créations. L'équipe de l'Université de Chicago a ainsi mis au point Glaze, un programme innovant qui ajoute de manière stratégique des pixels imperceptibles à l'œil humain mais déroutants pour les algorithmes d'IA. Ce marquage discret offre une protection contre la réutilisation non autorisée des œuvres artistiques.

Un professeur d'informatique, Ben Zhao, alerté par l'urgence de la situation, a pris les devants en novembre 2022. Avec l'aide de recherches antérieures, il a conçu Glaze en quatre mois seulement, s'inspirant des méthodes utilisées pour entraver les systèmes de reconnaissance faciale. Si lire une de ses publications scientifiques sur le sujet vous intéresse, cliquez ici pour la voir en pdf.

Glaze et Nightshade

Non seulement Glaze offre un rempart aux artistes, mais il est complété par un autre outil nommé Nightshade. Lui aussi développé par la même équipe. Ce dernier est pensé pour empêcher que les créations artistiques ne soient utilisées pour l'entraînement des IA génératrices d'images en empoisonnant ces données de formation.

Nightshade parvient à berner les intelligences artificielles en sapant leur entraînement. Quand l'IA voit un bureau, elle apprend ainsi de manière erronée que c'est une chaise, ou qu'un tableau est une fleur.

Ces deux outils représentent ainsi des garde-fous technologiques défendant la propriété artistique à l'heure de la génération de contenu par IA.

Des acteurs majeurs de la technologie IA générative ont bien conclu des accords pour l'utilisation légitime de certains contenus. Cependant, la majorité des œuvres sont utilisées sans consentement explicite, soulignant le besoin criant de solutions comme Glaze et Nightshade pour préserver les droits des créateurs.

Le fonctionnement subtil de Glaze

Glaze opère grâce à une technique subtile consistant à intégrer des pixels dissimulés dans les œuvres. Ceux-ci, tout en restant invisibles aux yeux des utilisateurs, modifient la manière dont les algorithmes d'IA perçoivent et traitent les images. En ajoutant ces éléments discrets, Glaze perturbe les tentatives de tout système d'IA visant à réutiliser ou reproduire les travaux artistiques.

Cette stratégie vise à contrer l'exploitation et la duplication non autorisée. Ainsi, l'authenticité et l'unicité des œuvres restent intactes, digitalement blindées contre les assauts automatisés des systèmes de machine learning et de génération d'images.

L'efficacité de la contre-mesure

Les résultats des tests effectués avec Nightshade sont éloquents quant à l'efficacité du mécanisme d'empoisonnement des données. Par exemple, en introduisant seulement 50 images d'animaux altérées, les performances d'une IA comme Stable Diffusion ont été sensiblement impactées, créant des anomalies visuelles telles que des chiens avec un surplus de membres. Avec 300 images empoisonnées, l'IA commençait à confondre les chiens avec d'autres espèces, démontrant une altération notable de ses capacités de classification.

Cette méthode s'avère non seulement efficace pour une image spécifique mais également pour corrompre un champ sémantique entier. En ciblant un terme tel que « chien », des mots associés tels que « chiot », « husky » ou « loup » sont indirectement affectés, dégradant la fiabilité du modèle d'IA sur un large spectre.

Les implications pour les créateurs et l'industrie de l'IA

L'arrivée de Glaze et de Nightshade sur le marché propose des répercussions notables pour les créateurs et l'industrie de l'IA en général. D'une part, ces outils renforcent la sécurité des droits d'auteurs et soutiennent la volonté des artistes de maintenir le contrôle sur leurs œuvres. D'autre part, ils amorcent un mouvement vers la définition de nouvelles normes éthiques concernant l'utilisation des données dans l'apprentissage et la génération de contenu par les systèmes d'IA.

L'émergence de ces technologies met en évidence l'importance d'un équilibre entre l'innovation technologique et le respect du travail créatif. En équipant les artistes avec des moyens de défense adéquats, Glaze et Nightshade contribuent à établir un futur où la technologie fonctionne aux côtés de la créativité humaine, et non à son détriment.

Nathalie Bottollier
Les derniers articles par Nathalie Bottollier (tout voir)
Go up