Récemment, je suis tombé sur un article de interestingengineering.com où il était question d'utiliser l'IA pour créer des images qui n'existent pas, alors qu'il est peut-être encore amusant de voir comment Trump arrêté par la police ou le Le pape sur l'icône de la mode l'IA peut ou pourrait même être utilisée pour créer des images qui n'existent pas, dans un contexte dangereux pour tous. Des images de révoltes, de conflits armés et de catastrophes.
Jusqu'à il y a quelques semaines, on pouvait être sûr qu'en matière d'images, s'il y avait une image, c'était la preuve d'une situation, d'un état de fait qui venait d'être pris par un photographe, même si là encore, il faut dire qu'une photo seule, montre rarement la vérité, mais seulement une perspective, et celle du photographe.
Mais avec les systèmes d'IA de plus en plus puissants comme Midjourney, les images qui peuvent être produites ou imaginées par l'IA sont de meilleure qualité et plus réalistes. J'utilise moi-même Midjourney pour les images de mes articles, lorsque je veux montrer quelque chose que je n'ai pas pu trouver en tant qu'image réelle sur Internet. Mais ces images que j'utilise n'ont rien d'émouvant et servent uniquement à remplacer un espace réservé.
Mais en produisant des images qui n'existent pas, puis en les enchaînant, les escrocs pourraient collecter des fonds pour des catastrophes comme le The 2001 Great Cascadia 9.1 Earthquake & Tsunami - Pacific Coast of US/CanadaIl faut savoir regarder, regarder de très près, pour se rendre compte que ces images n'ont jamais été prises, mais produites. On y voit également l'ancien président George Bush, ce qui permettrait d'en déduire la chronologie. Mais cette catastrophe n'a jamais eu lieu.
Et un danger qui existe, l'histoire peut ainsi être modifiée avec des images, ici Tirs cinématographiques pendant la guerre du Vietnam et la Seconde Guerre mondialeSi l'on ajoute de nouvelles images, d'autres perspectives, l'histoire pourrait être remise en question.
C'est le cas, par exemple, de La peste bleue dans les années 70 en Union soviétique.
Et qui n'a pas encore entendu parler du attaque d'OVNI pendant la deuxième guerre mondiale? Ou que Kim Yong Un en voyage est ?
A l'avenir, nous recevrons de plus en plus souvent des images dont nous devrons nous demander si elles représentent vraiment la réalité ou si elles ont été manipulées ou entièrement créées par l'IA. Je pense que les analystes photo seront très demandés à l'avenir, car ils seront utilisés avec expertise lorsque les portails d'information devront vérifier la vérité derrière les images, et avec chaque nouvelle génération d'IA générant des images, cela deviendra plus difficile. Ce n'est pas pour rien que je m'entraîne Critique de l'IA générative.
Je pense qu'une loi sur le marquage des images d'IA n'est plus qu'une question de temps. Peut-être via un lien sur l'image ou une mention dans l'article concerné.
Sources complémentaires :
French 
German 
English 
Czech