Midjourney, l’intelligence artificielle spécialisée dans la création d’images, a considérablement renforcé sa capacité de production. Grâce à sa nouvelle fonctionnalité « Character Reference« , il est désormais possible de reproduire le même personnage à l’infini, dans divers contextes et situations, que ce soit pour des personnages fictifs ou réels basés sur des photographies. Cette avancée représente une aubaine pour les professionnels de la création, mais elle soulève également des inquiétudes quant à son potentiel détournement par des individus aux intentions douteuses.
Midjourney toujours plus performant
Les IA avancent vite, très vite. Depuis son lancement, l’IA générative Midjourney ne cesse de s’améliorer. De mises à jour en mises à jour, l’IA permet de réaliser des images de plus en plus réalistes. Les meilleures images issues de prompts sont parfois difficiles à dissocier de la réalité. Mais jusqu’à présent, il était impossible de reproduire exactement le même personnage. En utilisant la même description, sans changer un seul mot, ou la même photo comme base, le résultat était systématiquement différent.
En effet, utilisant des modèles de diffusion, les IA génératives textuelles, comme ChatGPT ou d’images comme Midjourney, génèrent de nouvelles données à chaque nouvelle requête, même si celle-ci est la même que la précédente.
« Character Reference », la nouvelle révolution de Midjourney
Depuis le 11 mars 2024, le laboratoire de recherche indépendant en IA a implémenté une nouvelle fonction baptisée « Character Reference » au sein de Midjourney 6. Elle permet de recréer les traits d’une personne dans de nouvelles images, en n’altérant que leur environnement ou leur comportement (lorsque demandé par l’utilisateur).
Concrètement, sur la chaîne Discord de Midjourney, après avoir validé un personnage fictif (ou envoyé une photo d’une personne bien réelle), il suffit d’ajouter le tag « cref » à la fin de votre requête, puis de copier l’URL de l’image initiale pour les prochaines requêtes.
On peut aussi choisir l’intensité de ressemblance (allant de cw 0 à cw 100) des « clones » avec le modèle de base. La fonction cw 0 permettra de conserver seulement les traits du visage, quand, dans l’extrême inverse, la norme cw 100 signifiera que le personnage ressemblera intégralement au protagoniste initial, notamment en termes de pose ou d’habillage.
Les vraies photos d’humains aussi concernées ?
Si le PDG de Midjourney David Holz explique sur Discord que « Character Reference » est avant tout pensé pour des images générées et non pour des personnes réelles ou de vraies photographies.
Il rajoute que si vous utilisez de vraies photos, Midjourney risque de déformer le sujet initial.
Cela ne veut pas dire pour autant qu’avec un peu de travail, « Character Reference » ne pourrait pas dupliquer à l’infini une vraie personne dans différentes situations inventées. Midjourney 6 est toujours dans sa version alpha, ce qui signifie qu’il y aura encore de nombreuses étapes avant de voir débarquer une version finale. Les photos générées aujourd’hui sont donc les « moins bons résultats » de l’IA, cette dernière allant toujours en s’améliorant.
Ce que vous voyez ci-dessus représente encore les balbutiements du programme. Imaginez le résultat dans quelques semaines ou quelques mois. Ainsi, rien n’empêche déjà, à partir d’une simple photo, d’inventer une nouvelle vie à une personne bien réelle, l’intégrer dans un évènement, faire de fausses photos de vacances, et pire encore, de façon illimitée.
Plus facile pour les créatifs, mais aussi pour les amateurs de fake news ?
Certains créatifs et autres illustrateurs utilisant l’IA générative accueillent avec enthousiasme cette nouvelle mise à jour. Elle permet désormais de réaliser des œuvres complètes avec des personnages cohérents. Cela devient alors plus simple de créer un « roman-photo » ou un ersatz de bande dessinée, par exemple.
Évidemment, cela ouvre aussi les portes à toujours plus de dérives. Avec des modèles plus réalistes, qu’il est possible de dupliquer à l’infini, il sera toujours plus compliqué de déceler le vrai du faux. On pourrait ainsi retrouver la même personne dans des dizaines de situations différentes sans pouvoir déterminer quelle est la vérité.
Malgré les différents garde-fous progressivement mis en place par Midjourney, pour interdire les deep fake de personnalités connues, il serait facile d’imaginer que l’on puisse créer de vrais kompromats « d’inconnus » que l’on n’apprécie guère.
De plus, avec la progression des IA, il ne faudra pas longtemps pour qu’une fonction similaire à « Character Reference » fasse son apparition sur des plateformes moins regardantes et surtout moins exposées que Midjourney.
Une évolution technologique, qui, sous couvert de simplifier la vie à l’utilisateur, soulève constamment plus de questions d’éthique – comme à chaque fois avec les IA.
