Quelques années auparavant, l’intelligence artificielle (ou IA, pour le restant de l’article) était quelque chose de peu répendu. Pour tout vous dire, j’avais encore l’image de Terminator quand on me parlait d’IA (et je l’ai toujours actuellement). Mais en prenant du recul, si on regarde la courbe d’évolution de cette technologie, on est à se demander qu’elle sera sa limite? On peut retrouver une entreprise où le PDG est une IA, une IA qui permet de générer du code à des pirates ou bien cette image ci-dessous qui est mon gros coup de coeur !

Une discussion avec ChatGPT

Bien que toutes ces choses semblent folles, certaines sortent du lot et peuvent représenter un véritable danger. Notamment grâce à la génération de « deep fake ».

Qu’est-ce qu’un deep fake ?⌗

Le deep fake est le fait de pouvoir remplacer le visage d’un individu par un autre. Par exemple et pour continuer sur l’exemple des IA, on peut demander à cette dernière de générer une image du pape vêtu d’une grosse doudoune. Vous n’y croyez pas? Et bien Midjourney vous donne la possibilité d’y croire ! pope_midjourney

Photo du Pape Benoit XVI générée par Midjourney

Bien entendu ceci est totalement faux, un simple montage photo. Cependant, on peut noter que cela paraît vrai.

Quels sont les dangers du deep fake ?⌗

Ci-dessus, nous avons vu qu’à partir de quelques images, il était possible d’en réaliser une autre. Maintenant, transposons cela sur d’autres sujets comme la politique ou bien la vie privée. Sur le sujet politique et un contexte houleux sur la réforme des retraites, un cliché du président Emmanuel Macron le mettant en scène dans une manifestation n’est pas passé inaperçu. Même si cela peut prêter à sourire, cela n’aurait pas eu le même impact si un deep fake tournait autour du conflit en Ukraine. Rassurez-vous, il existe des cellules hautement placées qui vérifient ce genre d’information avant de lancer un nouveau conflit. macron_midjourney

Image d’Emmanuel Macron généré par Midjourney

Attaquons maintenant la partie vie privée à présent, nous ne disposons malheureusement pas de cellules dédiées à la vérifications de l’information et la plupart des personnes sont suffisamment crédules pour croire une image ou une vidéo comme étant une preuve fondée. Malheureusement, elles ont tendance à oublier qu’en informatique, énormément d’actions sont possibles. Toujours sur le même procédé (cela ne change pas pour le coup), on fournit à notre IA un lot d’image avec le visage à remplacer et notre nouvelle photo sort comme on a pu lui demander. Le problème, comme l’IA n’a pas la conscience du bien et du mal. On peut tout lui passer, mais vraiment tout pour le coup. Ca peut aller du cosplay totalement innocent jusqu’à… la pornographie. C’est sur ce point qu’il faudrait appuyer (voire marteler) afin de limiter les dégâts. Quelques explications? Imaginez-vous dans un lycée, sans problème, totalement assidu, aucun problème. Maintenant, mettez quelqu’un qui vous déteste et décide de vous voler une photo pour réaliser un deep fake. Cette même personne va décider de vous mettre dans une position indélicate et ce sera le début d’une descente en enfer.

Nous pouvons également aller plus loin, nos chers amis brouteurs ont accès également à cet outil et pourrait rendre plus crédible l’usurpation d’identité afin de mener à bien leurs arnaques. Aussi bien pour les photos mais également pour les appels vidéos. Résultat, une personne crédule croira sur parole l’arnaqueur, un personne avertie demandera de montrer la date d’aujourd’hui écrite sur une feuille blanche pour s’assurer que ce ne soit pas une vidéo en guise de webcam mais sera mise rapidement en confiance avec le résultat donné. En bref, la tâche de détection sera plus complexe.

En conclusion ?⌗

La technologie de l’intelligence artificielle est un outil qui doit être utilisée avec une bonne éthique. Nous devons poser nous-mêmes les barrières pour ce qui concerne l’utilisation. En terme de prévention, la solution serait d’éviter de laisser ses photos en public, cela permettra de limiter certains risque d’exposition si vous avez des ennemis sans le savoir. Dans un autre articles, nous verrons comment déceller qu’une photo a été générée par une IA.