Annoncé avec pompe, le (re)mariage du pasteur évangélique congolais Marcello Tunasi a retenu l’attention de la toile en République démocratique du Congo, au point de nourrir la désinformation. Peu après midi du mercredi 23 juillet, une photo le montrant avec sa fiancée est devenue virale, présentée comme prise le même jour. Pourtant, il s’agit d’un contenu généré par intelligence artificielle.
La photo montre le pasteur et sa compagne dans un environnement s’apparentant à un château, se tenant main dans la main. Mais plusieurs incohérences visuelles, propres aux contenus générés par intelligence artificielle ont été décelées par les équipes de Congo Check, notamment dans les détails des bras. A la poignée de mains entre les deux sujets, les doigts sont clairement déformés, ne ressemblant à aucune forme humaine réelle. Ensuite le bras gauche de la femme qui ne suit nullement les proportions humaines. De plus, nos équipes ont pu constater une déformation visuelle au niveau des verres portées par Marcello Tunasi.
De plus, cette photo a présenté de fortes différences avec les photos authentiques du mariage, publiées quelques heures plus tard, notamment au niveau de la coiffure et de la robe de la femme, totalement autres.
Avec ces indices, nous avons fait recours à des outils de détection des contenus générés par IA qui, eux-mêmes, utilisent également la même technologie. La photo a pu passer le filtre de « Hive moderation » qui n’a pas reconnu une signature IA. Mais deux autres outils, Wasit AI et Decopy AI, se sont montrés plus efficaces. « Nous sommes convaincus que cette image, ou une partie importante de celle-ci, a été créée par l’IA », ont conclu les algorithmes du premier alors que le second a établi la part IA à environ 87,42%.
Si la photo a pu passer le filtre de Hive Moderation, c’est suite à la course poursuite entre les logiciels d’IA générative et ceux de détection. « Nous assistons actuellement à une véritable ‘course sans fin’ entre IA générative et outils de détection IA. Alors que les modèles d’intelligence artificielle créent des contenus de plus en plus sophistiqués et réalistes, les logiciels de détection d’IA quant à eux n’ont d’autre choix que d’évoluer aussi pour garder leur capacité à identifier des contenus proches de la créativité humaine », explique le blog spécialisé en IA, Lucide.
Avec l’avancée de l’IA, la détection se complique chaque jour mais, des incohérences visuelles peuvent toujours servir d’indice dans une démarche de vérification.
