Midjourney suspend ses essais gratuits : qu’en est-il de la question éthique des images générées par IA ?

Alors que les progrès de l’intelligence artificielle ont provoqué une émergence de « fausses photographies » devenues virales, Midjourney vient d’annoncer la suspension de sa version d’essai gratuite. David Holz, créateur et directeur du logiciel générateur d’images déclare cependant avoir pris cette décision suite à une grande vague de nouveaux utilisateurs.

Image du pape réalisée avec l’aide de l’IA Midjourney

Midjourney, une intelligence artificielle génératrice d’images, a vu son nombre d’utilisateurs exploser ces derniers mois. Les images générées par des IA se sont ainsi faites de plus en plus nombreuses sur les réseaux sociaux – une tendance d’autant plus inquiétante que la plateforme s’améliore à un rythme extrêmement soutenu. La version 5, lancée il y a 10 jours, livre ainsi des résultats nettement plus réalistes – et avec moins d’aberrations – que par le passé.

Mais tout ces progrès technologiques, accessibles au plus grand nombre, sans aucune restriction, posent ainsi de vraies questions quant à la fiabilité des informations qui circulent sur le web, tant elles viennent brouiller notre perception du réel et remettent fortement en question la fiabilité des images que l’on voit.

Image d’Emmanuel Macron réalisée avec l’aide de l’IA Midjourney

Ainsi, on a récemment pu croiser sur les réseaux sociaux des fausses photographies montrant le pape en doudoune, Donald Trump se faisant arrêter ou Emmanuel Macron en manifestant. De même, le visuel d’un homme âgé au visage ensanglanté entouré de policiers a déclenché une vive polémique… et a donné du fil à retordre à celles et ceux tentant de discerner s’il avait été créé par une IA ou non.

C’est dans ce contexte que David Holz, CEO de Midjourney, a annoncé la fermeture (provisoire) de la version gratuite de la plateforme de création d’images générées par IA. Une annonce que de nombreux médias ont interprété comme un recul de la startup face aux problèmes éthiques causées par la diffusion de ces « vraies-fausses photographies ». Mais en réalité, il s’avère que cette décision intervient suite à la multiplication des faux comptes sur la plateforme.

Un point confirmé par D. Holz dans une interview accordée au média américain The Verge. Il y indique également que la version gratuite ne donnait pas accès à la version 5 du logiciel. Et que les images devenues virales ces dernières semaines avaient été créées depuis la version payante.

Vers une régulation de l’IA pour freiner la diffusion des fake photos ?

Si la fin des essais gratuits permettra de réduire le nombre d’utilisateurs mal intentionnés, cette décision n’empêche pas pour autant les dérives causées par l’IA. La question des limitations imposées aux plateformes peut donc se poser.

« La modération est difficile et nous allons bientôt sortir des versions améliorées. Nous prenons en compte beaucoup de commentaires et d’idées d’experts et de la communauté et essayons d’être vraiment réfléchis », a déclaré David Holz au magazine The Verge.

En parallèle, une lettre ouverte a récemment été publiée afin d’appeler les développeurs d’intelligence artificielle à faire une pause de 6 mois dans le développement des algorithmes. Une pause nécessaire afin de ralentir les avancées fulgurantes de l’intelligence artificielle afin de laisser le temps à l’humanité de s’adapter à ces nouveaux outils, à apprendre à les appréhender et à en comprendre les risques.

Elle permettrait également aux créateurs de développer des protocoles de sécurité afin de mieux encadrer la conception des images afin d’éviter les dérives éthiques – et ainsi limiter la propagation des fake news accompagnées d’images plus vraies que nature.

De son côté, la CNIL italienne, vient d’ordonner la fermeture de la plateforme ChatGPT sur le territoire italien – une première en Europe.

Image réalisée avec l’aide de l’IA Midjourney

La réflexion autour de l’intelligence artificielle, de ses limites et de ses dangers est en train de prendre un tout autre tournant, avec un débat qui atteint le milieu de la recherche et de la politique. De nombreuses voix appellent ainsi l’urgence de développer des solutions pour garantir l’authenticité des photos numériques qui circulent sur la toile.

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

  1. Les images générées par cet outil ne sont pas plus des photographies que les images générées par un appareil photo numérique. Pour le comprendre, il faut se poser des questions sur l’ontologie de l’image et sur la place particulière de la photographie dans l’histoire de l’art. André Bazin rappelle que l’originalité de la photographie réside précisément dans son respect de l’objectivité « L’objectivité de la photographie lui confère une puissance de crédibilité absente de toute œuvre picturale. Quelles que soient les objections de notre esprit critique, nous sommes obligés de croire à l’existence de l’objet représenté, effectivement re-présentés, c’est-à-dire, rendu présent dans le temps et dans l’espace ». Or, cette objectivité repose un procédé mécanique direct conduisant à la production d’une sorte d’empreinte par le biais d’une reproduction mécanique dont l’homme est exclu : il y a un lien direct entre l’objet initial et sa représentation. Avec l’invention de la photographie, « l’image du monde extérieur se forme automatiquement sans intervention créatrice de l’homme selon un déterminisme rigoureux ». Or, c’est bien ce lien direct qui a été rompu avec la production d’image numérique. Certes il s’agit bien d’un procédé mécanique, mais la notion d’empreinte disparaît au profit d’une codification de l’image qui intègre à bas niveau la possibilité de sa manipulation. C’est bien cette caractéristique qui a poussé Georges Lucas à travailler en numérique pour des films qui ne visent pas au réalisme et ne prétendent pas témoigner de l’état du monde. Pour le cinéma, cet usage se défend. Pour le photojournalisme, c’est plus discutable…