Adobe vient de créer une IA capable de détecter les images retouchées à l’aide de Photoshop. Menée par les chercheurs de l’entreprise américaine en collaboration avec l’Université de Berkeley, cette initiative prend place dans un contexte marqué par la multiplication des deep fakes.
Un partenariat entre Adobe et l’Université de Berkeley
Depuis son lancement en 1990, « Photoshop a eu un impact très important sur la créativité, et plus largement sur notre culture visuelle », déclare Adobe dans un récent post de blog. « Bien que nous soyons fiers de l’impact que Photoshop et les autres outils créatifs d’Adobe ont eu sur le monde, nous reconnaissons également les implications éthiques de notre technologie. La confiance dans ce que nous voyons est de plus en plus importante dans un monde où l’édition d’images est devenue omniprésente – les fake contents sont un problème sérieux et de plus en plus urgent », poursuit-elle.
Aussi, deux chercheurs d’Adobe, nommés Richard Zhang et Oliver Wang, ont développé en partenariat avec une équipe de l’université de Berkeley une méthode capable de détecter lorsqu’une image a été modifiée avec Photoshop. Ils se sont notamment concentrés sur les retouches apportées grâce au filtre Fluidité, particulièrement utilisé sur les photos de portraits. Capable d’identifier automatiquement les yeux, le nez et la bouche du visage, cet outil permet de les modifier très facilement… et parfois de manière (très) prononcée.
L’IA pour une meilleure détection des fake contents
L’équipe de chercheurs ont donc eu recours au deep learning et ont « entraîné » un réseau neuronal à partir de milliers d’images modifiées. Pour parfaire la démonstration, ils ont soumis les photos retouchées à l’IA ainsi qu’à un panel de 40 humains (recrutés grâce au service Amazaon Mechanical Turk) : ces derniers n’ont été capables de discerner les clichés modifiés que dans 53,5 % des cas.
À l’inverse, l’IA développée par Adobe a été capable d’obtenir un taux de réussite de 99,4 % des cas. Toutefois, cette IA ne s’arrête pas à la simple détection d’images retouchées : elle est également capable de calculer les modifications apportées aux clichés, mais aussi de restaurer l’image à son état d’origine, avant retouche.
« L’idée d’un bouton magique universel pour annuler les retouches d’images est encore loin de la réalité « , indique Richard Zheng. « Mais nous vivons dans un monde où il est de plus en plus difficile de faire confiance aux informations que nous recevons, et j’ai hâte d’explorer davantage ce domaine. »
Comment lutter contre les fake contents ?
Pour Adobe, l’enjeu est de taille. Depuis plusieurs années, l’entreprise mène un ensemble de recherches visant à mieux déceler les modifications apportées aux images, aux fichiers audios et aux documents. Si les outils développés par la firme sont particulièrement utiles aux professions créatives, cette initiative montre la prise de conscience d’Adobe de l’impact – positif comme négatif – de ses outils.
Ainsi, Adobe indique mener un ensemble de réflexions avec ses clients et ses partenaires, lesquelles pourraient déboucher sur des guidelines qui seraient appliquées au sein des différents logiciels – sans que la nature de ces dernières ne soient précisées pour le moment.
Cela étant, il convient de souligner l’importance de l’éducation des publics et du développement de l’esprit critique pour lutter contre les fake news et autres fake contents. Un point de vue partagé par Gavin Miller, responsable du programme Adobe Research : « au-delà des outils technologiques comme celui-ci, la meilleure défense sera un public éduqué, conscient du fait que les contenus peuvent être manipulés – souvent pour les divertir, mais parfois pour les induire en erreur. »
À ce titre, des modules de sensibilisation aux fake news dans le cadre des cours d’éducation civique pourraient s’avérer fort utiles…
