Retour à la page d'accueil

EMI | Techno mytho…

deapt Vrai ou faux, la frontière est de plus en plus difficile à trouver. Les deepfakes, ces petites vidéos qui reprennent l'image la voix de quelqu'un pour leur faire dire ce que l'on veut sont les plus emblématiques de ces usages des technologies.

La frontière entre vraie et fausse information est de plus en plus poreuse et si les manipulations d'image (ou de son) ont toujours existé, elles sont de plus en plus vraisemblables même si aujourd'hui comme hier, elles finissent par être déjouées. Faut-il pour autant devenir techno-mytho ?

Voir aussi
Voir aussi
horloge
|
Difficulté
batterie
|
DYS DYS
NO-DYS NO-DYS

Vous avez dit deepfake ?

De l'algorithme à l'intelligence articielle

Exemples

Qu'est-ce qu'un deep fake ?

L'émission CulturePubTV decrypte la vidéo. Jordan Peele détourne des propos de Barack Obama en faisant un deepfake pour dénoncer la manipulation de l'information.

source : Arte. Décryptage

Autres exemples

Bark Obama DeepFake… ou pas

source : India Magazine

Jim Carrey

DeepFake… ou pas

source : Ctrl shift face

Les "faceApps"

Les "faceApps" permettent d'échanger et de modifier des visages à la volée.

L'échange de visage ou "Face Swapping" consiste à remplacer un visage par un autre…
Cela permet par exemple d'anonymiser automatiquement une photo de Google Earth, de remplacer la tête de votre chien par la vôtre, vous vieillir, sourire, mentir ou même faire dire ce que vous n'avez jamais dit. Mais cela permet aussi de produire des faux de plus en plus difficiles à détecter.

Ces visages n'existent pas !

visage

Le site https://thispersondoesnotexist.com/ permet de générer des visages qui n'existent pas. C'est l’ère des « fake faces ».

A chaque actualisation de la page, un nouveau visage apparaît, combinaison de plusieurs autres, avatar humain, très humain…

Plus d'infos.

Nvidia va désormais encore plus loin dans l'intelligence artificielle en proposant de transformer un croquis en paysage réaliste.

Comment ça marche ?

RTS et les universités de Suisse romandeLes vidéos "deep fake" consistent à remplacer par ordinateur le visage d'une personne par celui d'une autre. Les mouvements de sa bouche sont calqués sur ceux de l'original pour lui prêter des propos qui ne sont pas les siens.

Solange Ghernaouti | UNIL Le 19h30 26 03 2018. RTS et les universités de Suisse romande précise que ce sont généralement les acteurs qui sont détournés, via un outil en accès libre à la portée de tous, aucune ligne de code n'est nécessaire.

Mais les dérives sont nombreuses, fausses nouvelles, faux film pornographiques, plus que jamais un décodage est nécessaire et une enquête plus poussée en cas de doute.

Comment les décrypter ?

La Méthode scientifique

L'émission "La méthode scientifique" sur France Culture propose, une fois par semaine, une heure de savoir autour des sciences, toutes les sciences, et sur les problématiques éthiques, politiques, économiques et sociales qui font l'actualité de la recherche.

Qu’appelle-t-on deepfake et comment ces fausses vidéos sont-elles fabriquées ? A quelles fins sont ou peuvent-être utilisés les deepfakes ? Comment peut-on contrôler la propagation des deepfake ?

Deepfake : faut-il le voir pour le croire ?

Qu’appelle-t-on deepfake et comment ces fausses vidéos sont-elles fabriquées ? A quelles fins sont ou peuvent-être utilisés les deepfakes ? Comment peut-on contrôler la propagation des deepfake ?

source : Nicolas Martin. France Culture

Petit retour historique

La retouche d'images

La première photo "photoshopée"

John Knoll, l'un des fondateurs d'Adobe Photoshop, montre la première retouche photo qu'il avait effectuée, de celle qui deviendra son épouse sur une plage de Bora-Bora en 1987…

L'usage du logiciel Photoshop s'est tellement répandu que l'on parle désormais d'image "photoshopée".

source : Adobe Photoshop

Le détourage

Un petit tutoriel qui montre la technique du détourage d'une personne ou d'un objet et quelques possibilités de modifications que cela permet.

source : PHLEARN
Une application concrète

BOGGIE: NOUVEAU PARFUM

La chanteuse BOOGIE chante en timelapse pour dénoncer les retouches photos d’images.

source : StudiolambPLUS
Activités

Activité retouche d'images

Saurez-vous reconnaître les photos retouchées ?

Cliquez sur l'image ci-dessous pour accéder au site et faites le test vous-même.

25 photos pour les 25 ans de Photoshop, l'un des logiciels de retouche d'image les plus connus.

Pour chaque photo, il vous faudra répondre par oui ou non.

Avant / après
Avant après
Topito

Le site Topito publie le top dix des photos retouchées de star. Un petit curseur permet d'afficher l'une ou l'autre version.

4 photos historiques retouchées

Avant Après
Avant Après
Avant Après
Avant Après
liensource : www.curioctopus.fr/

La lecture d'images

De nombreux sites propose une éducation à la lecture d'image.

Parcours questions images médias

Des parcours d'initiation à la lecture de l'image proposés par MEDIAPTE : fonctionnement, perception, représentation, arts vidéos, médias…

lienwww.mediapte.fr/parcours/
Analyser une image

Proposée par Sciences Po et OpenClassrooms, cette fiche méthodologique, quatrième d’une série de neuf, donne, en vidéo et textes, les clés pour analyser une image.

lienwww.lemonde.fr/
Grille d'analyse

Grille d'analyse d'une image proposée par le RECIT (Réseau pour le développement des Compétences par l'Intégration des Technologies), Québec.

lienwww.recitus.qc.ca/

Montage son

La guerre des mondes

Orson Welles - War Of The Worlds - Radio Broadcast 1938 - Complete Broadcast

Retour sur cette ce célèbre canular radioscopique.
30 octobre 1938. Un jeune et génial réalisateur de 23 ans, nommé Orson Welles, a adapté pour CBS La guerre des mondes, le livre de H. G. Wells. Orchestrant une interruption exceptionnelle des programmes, il met en scène sa fiction sonore comme un bulletin d'alerte, et annonce à l'antenne, à 20 h 15, que les Martiens ont débarqué dans le New Jersey !

source : David Webb

« Guerre des mondes » : histoire d’une fausse panique collective

Le soir du 30 Octobre 1938 Orson Welles et sa troupe le Mercury theâtre ont joué en direct à la radio une adaptation de « La Guerre des mondes » de H.G Wells sous forme de bulletin d'information radiophonique venant interrompre les programmes habituels. Pendant plus de 60 ans les médias grand public ont rapporté qu'il y aurait eu une hystérie touchant tous les Etats-Unis suite à la diffusion de l'émission. Mais depuis plus de 10 ans, les médias grand public ont tous changé d'avis et nous expliquent maintenant que peu de personnes auraient réagi à l'émission.
Qu'en est-il vraiment ?

source : Oisifologie

Candyvoice

CANDYVOICE est une société française spécialisée dans le traitement numérique de la voix. Cette technologie permet par exemple personnaliser très facilement les voix des robots, de redonner une voix à ceux qui l’ont perdue pour des raisons médicales…

liencandyvoice.com/

Activité deep voice

Rendez vous sur le site candyvoice et testez différentes voix.
Par exemple celles d'Emmanuel Macron, de B. Obama, d'Elizabeth II...

Qu'en pensez-vous ?

La retouche par IA

Réseau de neurones

Ces retouches manuelles, "à l'ancienne", sont de plus en plus souvent remplacées par de l'intelligence artificielle. Après une collecte d'une énorme quantité de données qui peut aller jusqu'au WEB entier sur plusieurs années, divers algorithmes analysent formellement (et pas le sens) textes ou images pour en déduire ce que l'on appelle, improprement une intelligence articificielle.

Ce sont donc des machines apprenantes.

De fait, il ne sagit pas ici d'intelligence, mais d'une machine qui a appris à produire des réponses grammaticalement et factuellement relativement exactes. Relativement, parce qu'elles reposent sur des données qui peuvent elles-même être fausses.

Il n'en reste pas moins que les résultats sont de plus en plus bluffants. Cela notamment parce qu'on y a ajouté des couches de contrôle qui filtrent les réponses.

Réseau de neurones, modèles de diffusion

Ce sont des machines, et en tant que telles, elles ne font que ce qu'on leur demande.

Comment démasquer les faux ?

Photorensics

Fotorensis Photorensics est un site en ligne qui vous permet d'analyser une photo afin de savoir si elle a fait l'objet de retouches ou de montages.
L'on voit, par exemple sur l'image ci-dessous en appliquant le filtre ELA, le détourage qui a été effectué.

.space-20

Fotorensis

Pour cela, le site analyse les différents niveaux de compression d’une image afin d’en faire ressortir les éventuelles modifications. A chaque retouche le niveau de compression est dégradé et cela se voit. Vous pouvez également accéder aux métadonnées de la photo.

lienfotoforensics.com/

ChatGPT

prompt : Écrit un post court de bonne année

ChatGPT question 3

prompt : Règles du jeu de de

ChatGPT question 3

prompt : L’être est, le non être n’est pas ! Qu’en penses-tu ?

ChatGPT question 3

prompt : Lettre de motivation je suis prof doc et cherche un poste d'inspecteur

ChatGPT question 3

prompt :Réponse à un mail de candidature d'un prof-doc à un poste d'inspection

ChatGPT question 3

Les observateurs France 24

France 24

Diffuser une intox ne nécessite pas forcément d’avoir de grands talents informatiques : souvent, le simple recadrage d’une photo ou d’une vidéo peut créer la confusion sur les réseaux sociaux. Ce guide de vérification vous aidera à y voir plus clair.

lienobservers.france24.com/fr/

TineEye

tineyeTineye est un moteur de recherche inversé qui permet de chercher une image dans un index qui en contient plus de 33,5 milliards.
Entrez l'URL d'une image ou glissez-déposez-là dans le champ de recherche et vous trouverez toutes ses utilisations.

lienwww.tineye.com/

Pour aller plus loin !

La réalisation d'un deepfake expliquée

Fonctionnement

DeepFakes Explained

Une explication détaillée (en anglais) avec les liens vers les fichiers sources pour comprendre à la fois comment fonctionne la programmation et la théoriquement. Deux réseaux neuronaux collaborent. Un encodeur essaye de reconnaître un visage. Le décodeur essaye ensuite de le reconstruire. A partir de 2 jeux de données d'images, il s'agit donc de reconstruise l'image A à l'aide du décodeur de l'image B

source : Siraj Raval

Le Monde fait le test

Le Monde fait le test

« N’importe qui serait capable de fabriquer un deepfake. Vraiment ?

Les inquiétudes liées à cette technologie d’intelligence artificielle, qui permet de remplacer un visage par un autre dans une vidéo, sont en partie liées au fait qu’elle serait accessible à tous – ce qui dessinerait un avenir où chacun pourrait diffuser des vidéos modifiées, faisant dire n’importe quoi à n’importe qui.

Nous avons donc tenté d’en fabriquer, afin de vérifier s’il est aujourd’hui si simple d’en créer. Le cobaye : l’autrice de ces lignes, relativement dégourdie du clavier, mais sans qualification supplémentaire. Le test : remplacer Jean Dujardin par Emmanuel Macron dans une séquence d’OSS 117, parce que pourquoi pas. »

lienwww.lemonde.fr/

Le Monde fait le test

Ressources

25 vraies/fausses idées en science

Sciences pour tous « Sciences pour tous » est un livre à télécharger et offert par « Sciences pour tous » qui a pour but de connaître les ouvrages de sciences, mais surtout à se familiariser avec le monde des sciences.

lien PDFmedia.fetedelascience.fr/

Logiciels et apps deepfake

DeepFaceLab

Open-source deepfake system.

liengithub.com/