En 2024, les médias médiatiques et de la tech se mobilisent activement pour combattre la désinformation. Dans cet esprit, TikTok a adopté la norme Content Credentials de la C2PA, une initiative qui vise à permettre aux utilisateurs de distinguer plus facilement les contenus générés par intelligence artificielle.
Les réseaux sociaux, de vraies autoroutes à fake news
Les réseaux sociaux sont en première ligne quand on parle de fake news ou de partage de contenus générés par IA. Le 9 mai 2024, TikTok, la plateforme préférée des jeunes, a ainsi indiqué rejoindre la C2PA (Coalition for Content Provenance and Authenticity). une coalition d’entreprises et de médias visant à mieux identifier les contenus générés grâce à l’IA.
Si cette coalition regroupait déjà des grands noms des médias (comme la BBC ou le New York Times), de la tech (Adobe, Google ou Microsoft) et de nombreux constructeurs photo (Sony, Nikon, Leica, etc.), les réseaux sociaux s’investissent aussi. Et cela n’est pas dénué de fondement.
En effet, l’application TikTok, développée par l’entreprise chinoise ByteDance, est particulièrement touchée par la diffusion de contenus faux ou générés de manière automatique. Son algorithme extrêmement efficace et addictif permet une propagation massive des infos et peut influencer très rapidement de nombreux esprits.
TikTok testait déjà un outil de vérification des contenus générés par IA
TikTok, qui dispose déjà d’un outil d’étiquetage (AIGC – Artificial Intelligence Generated Content) pour marquer les contenus générés par IA depuis sa propre plateforme, annonce ainsi étendre l’étiquetage automatique des fichiers fabriqués par d’autres plateformes de création par IA (sans préciser lesquelles).
La lecture des informations d’identification de contenu est rendue possible par une technologie de la C2PA. Les plateformes sont censées attacher des métadonnées à leurs contenus, qui sont ensuite identifiés et automatiquement marqués comme « AIGC ». Cette fonction a commencé à être déployée pour les images et les vidéos produites directement par TikTok, et sera prochainement étendue aux contenus audio.
D’après le réseau social, 37 millions de créateurs de contenu ont utilisé l’outil de vérification depuis son lancement à l’automne 2023. Un chiffre qui peut sembler impressionnant, mais qui est tout de même à relativiser au regard des quelques 1,6 milliard d’utilisateurs actifs référencés sur TikTok en janvier 2024 – même si tous ne sont pas des créateurs.
L’étiquetage « AIGC » sera également appliqué aux contenus TikTok partagés sur d’autres plateformes. Les utilisateurs pourront ainsi savoir « quand, où et comment le contenu qu’ils regardent a été créé ou édité ».
Avant TikTok, les promesses de Meta
TikTok s’engage sur le chemin de la traçabilité des contenus générés par IA quelques mois après l’autre géant des réseaux sociaux : Meta. En effet, en février 2024, la maison mère de Facebook, Threads et Instagram, avait annoncé son intention de marquer les contenus fabriqués en suivant le cahier des charges de la C2PA. On l’attend toujours.
Quid des entreprises permettant la création de contenus artificiels ?
Bien entendu, ces différents outils de traçabilité ne pourront fonctionner qu’avec des fichiers créés par des logiciels d’IA générative ayant eux-mêmes intégrés la C2PA et apposant des métadonnées spécifiques à leurs contenus.
Dans cette logique de « transparence », OpenAI, la firme derrière ChatGPT et Dall-E, avait annoncé l’intégration d’un marqueur spécifique en rejoignant la C2PA parallèlement à Meta en février dernier.
De leur côté, des sociétés spécialisées dans la génération d’images, comme Midjourney et Shutterstock, ne font pas (encore) partie de la C2PA. Néanmoins, ces entreprises ont déclaré, le 11 mai 2024, qu’elles auront recours, via les données IPTC, à un mécanisme pour intégrer un marqueur indiquant que le contenu a été créé par une IA générative.
D’après l’International Press Telecommunications Council (IPTC), cette solution serait plus simple et rapide à mettre en place que celle des certificats numériques C2PA dont on attend encore, il est vrai, l’application concrète.
