00:00:03
Bonjour !
00:00:03
Cette photo de Kamala Harris, apparue lors de
la dernière campagne présidentielle américaine,
00:00:08
n’est pas une photo de Kamala Harris. Il
s’agit d’une image, créée à l'aide de Grok,
00:00:12
l'intelligence artificielle du réseau
social X. C’est même son propriétaire,
00:00:17
Elon Musk, qui l’a mise en ligne pour
attaquer l’adversaire de Donald Trump.
00:00:21
Pour l’homme d’affaires, peu importe que
cette image soit vraie, ou même vraisemblable.
00:00:26
L’important est que ceux qui l’ont vue, y ont
reconnu Kamala Harris et ont pu s’imaginer qu’elle
00:00:31
comptait imposer le communisme en Amérique.
Le symbole d'une Intelligence artificielle,
00:00:36
sans filtre, qu’Elon Musk entend mettre
au service d'un projet politique.
00:00:43
Une femme d'une cinquantaine d'années à la
peau mate et aux longs cheveux noirs, vêtue
00:00:47
d'un uniforme de style militaire, regarde vers le
ciel. Cette photo, les 200 millions d’abonnés du
00:00:52
compte X d’Elon Musk ont pu la découvrir le 2
septembre 2024. Ce jour-là, l'homme d'affaires
00:00:58
poste plus de 100 messages sur ce réseau social,
qu’il a racheté en 2022 quand il s'appelait encore
00:01:03
Twitter. Un rythme habituel pour lui.
Dans l’un d’entre eux, il poste cette
00:01:07
image qui évoque l’iconographie soviétique.
L’uniforme est rouge, la casquette ornée
00:01:12
d’une faucille et d’un marteau, des éléments
qu’on retrouve sur le drapeau de l’ex URSS.
00:01:17
Dans le flou de l'arrière-plan, on devine la foule
de spectateurs d'un meeting politique, prêts à
00:01:21
suivre leur leader. L'homme d'affaires a légendé
le cliché ainsi : « Kamala s'est jurée d'instaurer
00:01:26
une dictature communiste dès le premier jour. Vous
vous rendez compte qu'elle porte cette tenue !? »
00:01:31
Par ce message, Elon Musk répond à
un tweet de Kamala Harris, qui avait
00:01:35
affirmé qu'elle comptait battre Donald Trump,
afin de l’empêcher de se comporter en dictateur.
00:01:39
Une référence, imprécise, à un discours tenu
par le candidat républicain en décembre 2023,
00:01:45
à propos de ses plans, hautement stratégiques,
en cas de retour à la Maison Blanche.
00:01:59
Ce tweet d'Elon Musk a été vu plus de 84 millions
de fois. Il a suscité des dizaines de milliers
00:02:03
de réponses, approbatrices ou critiques.
Plusieurs d'entre elles, très relayées,
00:02:07
reprochent notamment au propriétaire de X de se
livrer à une manipulation dangereuse, à l'aide de
00:02:12
l'intelligence artificielle, le tout en violation
des règles fixées par son propre réseau social.
00:02:18
Car si la photo s'adresse à Kamala Harris,
00:02:20
elle ne représente pas Kamala Harris mais
son double virtuel. Elon Musk ne précise
00:02:24
pas sa source mais il est le tout premier à
l’utiliser et donc son très probable créateur.
00:02:29
L’image a été initiée par Grok, un programme
d'intelligence artificielle lancé sur X qui
00:02:34
inclut un outil de génération d'image,
inauguré en août 2024. Son utilisation
00:02:39
est réservée aux abonnés du réseau
social. En tapant ce qu'on appelle
00:02:42
un prompt, une suite de mots-clés, ces
indications peuvent générer une image.
00:02:51
Contrairement à d’autres générateurs
d’images comme Dall-E d’OpenAI ou “Gemini”
00:02:55
de Google qui bloquent les requêtes
mentionnant explicitement le nom d’une
00:03:00
personnalité ou d’une activité violente,
Grok laisse tout passer... ou presque.
00:03:05
Elon Musk en a fait la parfaite démonstration pour
00:03:08
brocarder Kamala Harris, à l'aide
d'une photo créée de toute pièce.
00:03:11
Callum Hood est directeur de la recherche
du Center for Countering Digital Hate, une
00:03:16
ONG anglo-saxonne de lutte contre la
désinformation en ligne. Cet habitué
00:03:20
des images créées par l’IA repère dans celle
postée par Elon Musk des indices irréfutables.
00:03:27
Quand nous regardons cette image de Kamala
Harris vêtue d'un uniforme communiste,
00:03:31
des signes révélateurs d’une possible
génération par l’intelligence artificielle
00:03:34
apparaissent : la peau comme l’uniforme
arborent une texture quelque peu plastique,
00:03:39
et l'arrière-plan est très flou et indistinct. De
plus, l'uniforme n'a pas de fondement historique,
00:03:45
les dictateurs communistes ne
portaient pas d'uniformes rouge et or.
00:03:50
Les IA ne sont pas si sophistiquées que ça. Si
elles notent une association étroite entre le
00:03:55
terme “communisme” et les couleurs rouge et or
ou le symbole d'un marteau et d'une faucille,
00:04:00
ces ingrédients peuvent finir
combinés dans une même image.
00:04:04
Les humains sont doués pour reconnaître
les visages et les petites différences
00:04:07
dans les traits, et on peut voir que ce visage,
00:04:10
bien qu'il ressemble à celui de Kamala
Harris, ne semble pas tout à fait vrai.
00:04:15
De nombreux internautes se
sont d’ailleurs étonnés,
00:04:17
ou amusés, des difficultés qu’éprouve Grok à
représenter Kamala Harris : sur ces images,
00:04:22
elle s’avère beaucoup moins ressemblante
que celui qui l’a battue, Donald Trump.
00:04:28
Quelqu'un comme Donald Trump, qui a déjà
été président, a des millions d'images de
00:04:32
lui disponibles sur Internet. Il est donc très
bien représenté dans le processus d’entraînement
00:04:38
par lequel passent ces outils, qui deviennent
plutôt bons pour produire des images de lui.
00:04:42
Pour d'autres personnes, y compris
Kamala Harris, qui est célèbre,
00:04:45
mais moins, vous verrez qu'il
y a un peu plus de variations.
00:04:50
Ces fausses images de personnalités politiques
se sont multipliées depuis le lancement de Grok.
00:04:54
Des internautes l’ont tour à tour utilisé pour
représenter Elon Musk en lapin géant Trumpiste,
00:04:59
pour le mettre en couple avec Kamala
Harris, pour transformer Donald Trump
00:05:03
et la candidate démocrate en pirates
du 11 septembre ; pour montrer Joe
00:05:06
Biden jonglant avec une tronçonneuse
ou Obama et Bush accros à la cocaïne.
00:05:11
Rien de plus facile que de créer une telle image,
00:05:13
soit par une demande directe,
soit de manière plus détournée.
00:05:17
Par exemple, dans notre rapport, nous
avons demandé à Grok de produire une
00:05:21
image d'hommes portant des casquettes
rouges et marchant vers le Capitole des
00:05:25
États-Unis pour une célébration. Il est
assez clair que le générateur d'images
00:05:31
semble avoir été influencé par des images de
l'attaque du 6 janvier contre le Capitole.
00:05:38
Certes, une image générée par l’IA ne peut
être utilisée pour créer un évènement de A
00:05:42
à Z ou convaincre par exemple qu’un candidat a
fait quelque chose qu’il n’a jamais fait. Mais
00:05:48
elle peut toujours être utilisée pour servir un
discours ou diffuser un message de propagande.
00:05:53
Et plus inquiétant encore, il existe
un risque que la mise en circulation
00:05:57
de nombreux deep fakes relativement convaincants
00:06:00
puisse progressivement ronger la connaissance que
les gens ont de ce qui s'est réellement produit.
00:06:08
Cette image de Kamala Harris postée par Elon
Musk ne constitue pas une provocation isolée :
00:06:14
elle s'inscrit en réalité dans
une stratégie informationnelle,
00:06:17
très réfléchie, dont Grok n’est
que l’un des très nombreux outils.
00:06:22
On a, en fait, dans cette image un double ADN. On
a à la fois l'ADN qui est celui du réseau social
00:06:29
Twitter ou X, qui est vraiment basé sur la
réaction, voire la surréaction. Et un des enjeux,
00:06:35
c'est effectivement d'être le premier à répondre,
à surenchérir, et de faire en sorte que souvent
00:06:39
la réponse attire plus de commentaires, de
likes ou de partages que le post initial.
00:06:46
Et puis on a aussi à côté de ça,
une transcription littérale de
00:06:51
l'agenda idéologique de Musk et de Trump,
c'est-à-dire cette idée qu'effectivement
00:06:56
tout ce qui n'est pas conservateur
serait immédiatement communiste.
00:07:03
L'idée de Musk, c'est d'afficher à l'intérieur
de Grok l'absence des limites habituelles qui
00:07:09
sont affectées à ces générateurs de
textes ou à ces générateurs d'images.
00:07:25
Celle de Kamala Harris restait relativement
soft mais on a derrière Grok des générations
00:07:30
d'images qui peuvent être beaucoup plus
problématiques. Grok n'a pas les limites
00:07:36
que s'autofixent les autres générateurs d'images.
00:07:39
Ces derniers mois, Elon Musk
s’est amusé à rebaptiser ChatGPT,
00:07:43
un de ses principaux concurrents sur le
marché de l’IA, “Woke GPT” : il le trouve
00:07:47
trop politiquement correct.
Lui, le clame haut et fort,
00:07:50
si jamais l’IA doit prendre le contrôle de
l’humanité, au moins qu’elle nous fasse rire.
00:07:56
Ce que permettent de documenter ces
outils d'IA, c'est l'évidence que la
00:07:59
“personnalité” entre guillemets, qui
leur est attribuée n'est très souvent
00:08:03
rien d'autre que le reflet de celle de
son fondateur ou de son propriétaire.
00:08:10
Il y a une figure mythologique qui est assez peu
connue, qui s'appelle Momos. Momos, c'est le dieu
00:08:15
de la raillerie et de la critique sarcastique.
C'est le fils de la nuit et des ténèbres dans
00:08:20
la mythologie grecque. Et c'est quelqu'un qui, à
force de se moquer de l'ensemble des dieux, va se
00:08:25
retrouver exilé, fichu à la porte. Et le seul qui
va daigner l'accueillir, c'est le dieu Dionysos.
00:08:31
La relation entre Musk et Trump me fait un petit
peu penser à celle entre Momos et Dionysos.
00:08:39
Cette mécanique du sarcasme et de la
provocation, Elon Musk l’a abondamment
00:08:43
exercée grâce à Grok. On l’a vu représenter
un juge brésilien avec qui il est en conflit,
00:08:48
sous les traits d’un sorcier ou
derrière les barreaux avec des menottes.
00:08:52
Il a aussi créé de toutes pièces des images
d’animaux attendrissants, afin de renchérir
00:08:56
sur une accusation mensongère de Donald Trump
lors de la récente campagne présidentielle :
00:09:02
Celle selon laquelle les immigrés haïtiens de
00:09:05
l'Ohio mangent des chiens
et des chats du voisinage.
00:09:07
Si Musk fait ça, c'est parce que derrière ce
projet d'intelligence artificielle, tel qu'il
00:09:12
le met en place dans son agenda politique,
ce qu'il vise, c'est un effet de décrochage.
00:09:16
C'est-à-dire qu'il s'agit vraiment
de saturer l'espace de discours à
00:09:21
l'intérieur de sa plateforme, mais aussi
au-delà, avec des images qui sont le plus
00:09:27
possible générées artificiellement pour qu'à
la fin on n'ait plus comme référent ou comme
00:09:33
référence que des images qui elles-mêmes
n'ont plus de prise directe avec le réel,
00:09:37
sinon par le prisme de cette imitation
que permet l'intelligence artificielle.
00:09:44
Au cours de la dernière campagne
présidentielle américaine,
00:09:46
Elon Musk a très clairement choisi son
camp. Quelques heures après la large
00:09:50
victoire de Donald Trump, le 5 novembre
2024, l’homme d’affaires postait sur X une
00:09:55
photo de lui saluant le drapeau américain
pour célébrer la victoire de son favori.
00:09:59
Une photo, créée quelques semaines plus tôt par
l’un de ses supporters, à l'aide de l'intelligence
00:10:04
artificielle. Seul problème : sur cette image,
le drapeau américain ne comporte que 11 bandes,
00:10:10
au lieu des 13 traditionnelles, qui représentent
les 13 états fondateurs, sur la bannière
00:10:14
étoilée. Un détail qui n’a manifestement
pas frappé ce partisan d’une IA débridée.
00:10:20
C'était une enquête de Jean-Marie Pottier pour
Le Dessous des images. Salut à tous !
