L’émergence des modèles d’intelligence artificielle capables de dénuder les corps avec des images réalistes (les « Deepnudes ») a donné naissance à une industrie en ligne florissante, hautement problématique sur le plan éthique.
Le récent rapport de Graphika, A Revealing Picture, met en lumière l’essor alarmant d’une industrie en ligne exploitant les progrès de l’IA pour générer et monétiser des images intimes non consensuelles (NCII) synthétiques à grande échelle.
Une violation flagrante de la vie privée
Selon le rapport, « la création et la diffusion d’images intimes non consensuelles (NCII) synthétiques sont passées d’un service personnalisé disponible sur des forums à une activité à grande échelle qui exploite une myriade de ressources pour monétiser et commercialiser ces services. » Ces images, communément appelées « undressing », « deepnudes », « images dénudées », sont générées en manipulant des photos et vidéos existantes de personnes réelles pour les rendre apparemment nues, sans leur consentement.
« Un groupe de 34 fournisseurs de NCII synthétiques identifiés a reçu plus de 24 millions de visiteurs uniques sur leurs sites Web en septembre 2023 », indique l’étude.
Cette violation flagrante du droit à l’image, de la vie privée et de la dignité des individus est rendue possible par l’amélioration constante des modèles de génération d’images IA, qui permettent à un plus grand nombre d’acteurs de créer facilement et à moindre coût des nudes photoréalistes à grande échelle. Comme l’explique le rapport, « sans ces fournisseurs, leurs clients devraient héberger, maintenir et exécuter leurs propres modèles de diffusion d’images personnalisés – un processus long et parfois coûteux. »
Une industrie en ligne prospère
Tirant parti de ces avancées technologiques, les fournisseurs de NCII synthétiques ont développé un véritable modèle d’entreprise lucratif, adoptant des stratégies marketing agressives comme la publicité sur les réseaux sociaux grand public, le marketing d’influence et l’utilisation de technologies de paiement en ligne . Cette industrie prospère en exploitant et en monétisant la violation du consentement et de la vie privée des individus.
Les experts avertissent que « l’importance croissante et l’accessibilité de ces services conduiront très probablement à d’autres cas de préjudice en ligne, tels que la création et la diffusion de NCII synthétiques à des fins de chantage, de harcèlement ou d’exploitation financière. » Les conséquences psychologiques pour les victimes peuvent être dévastatrices..
Un besoin urgent d’encadrement juridique et éthique
Bien que les progrès technologiques soient impressionnants, l’exploitation commerciale de l’IA pour générer des NCII sans consentement soulève des questions fondamentales sur le plan éthique et juridique. Il est impératif que des garde-fous robustes soient mis en place pour prévenir les abus et protéger les droits individuels à la vie privée et à la dignité.
A l’heure actuelle, certaines plateformes bloquent les mots-clés et applications permettant de réaliser de tels images, mais ces efforts sont encore largement insuffisants pour endiguer ce phénomène.
Une réglementation stricte, assortie de lourdes sanctions pour les contrevenants, doit être envisagée pour encadrer cette industrie. De plus, un débat de société approfondi s’impose sur le développement et l’utilisation responsable de telles technologies d’IA, afin de garantir le respect des valeurs éthiques et des libertés individuelles.
