Arnaques à l'IA

Les IA génératives amènent de nouvelles arnaques et escroqueries, ou plutôt améliorent des arnaques déjà courantes. Cette présentation décrit quelques-une de ces nouveautés, tout en revenant sur les confusions images/réalité qui ne sont pas nouvelles.

Public

Grand public, Médiateurs

Licence

CC-BY-SA

Arnaques___l_IA_ArnIAques_couv.png

Le lien vers la présentation (avec des notes, cliquez sur "notes") : https://www.canva.com/design/DAGXeSlMEF8/Lz2mnkUiDv8ooZ1bikEi1g/edit

Un résumé de la présentation ArnIAques en quelques points :

Introduction :

La confusion réel/virtuel que semble amener la création d'images et de vidéo par IA n'est pas nouvelle. Depuis les premiers appareils de prise de vue, photo ou cinéma, cette confusion existe, elle est au cœur de certaines œuvres artistiques. Chaque nouveauté technologie amène une nouvelle façon de capter le réel et dans son sillon emporte des interprétation et jeux de confusion avec le réel. Le cinéma-vérité, le documenteur, le found-footage par exemple sont des genres qui se construisent sur l'imitation du réel.

1. L'IA est partout, la première arnaque c'est d'en faire un argument de vente ou un outil infaillible pour gagner de l'argent, trouver du travail, devenir propriétaire. Les bonimenteurs évoluent avec la société, chaque mot teinté de magie car incompris ou fascinant est utilisé pour vernir des produits banals ou des formations vides (mais payantes).
2. L'IA générative permet la falsification. Fausse photo d'artisanat, d'enfant malade, de chien décédé, de pays en guerre... Tout ce qui peut justifier un appel au don frauduleux peut désormais s'illustrer d'images très réalistes, rendant l'arnaque plus difficile à déceler.
3. L'IA générative améliore et facilite l'arnaque. Faux courriers, faux mails, relances, réponses, logos, tout ce qui donne de la crédibilité à une escroquerie peut être amélioré par le recours à l'IA. Les courriers sont plus professionnels, mieux mis en pages, mieux rédigés. Des sites internets frauduleux peuvent être créés en quelques minutes. La crédibilité augmente. En revanche, un escroc reste un escroc, votre portefeuille est vite demandé, c'est le signe qui ne trompe pas et qui ne disparaîtra pas.
4. L'IA générative est une arme de propagande. Les Etats en guerre s'en servent, pour de l'information ou de la désinformation, elle fait partie désormais du paysage médiatique. Les images créées par IA ne trompent pas la plupart des journalistes, qui continuent de faire leur travail de vérification des sources avant de publier. Les images créées par IA sont identifiées comme telles. En revanche, l'accessibilité de ces outils fait que de nombreux comptes sur les réseaux sociaux peuvent créer leur propre propagande. La puissance de ces outils donne potentiellement à chaque publication amateure une apparence professionnelle.
5. De la même manière que n'importe qui peut produire du texte et qu'il convient de situer ces textes pour en déceler les faiblesses ou les mensonges (qui écrit, pourquoi, dans quelle situation, quand...), il en est de même pour les images, désormais. N'importe qui peut produire n'importe quelle image, il faut donc, pour bien considérer en quoi une image informe ou raconte ou divertit, connaître son contexte.
6. En terme de désinformation, les cas de mensonge créés à l'aide de l'IA sont vite décelés. En revanche, le problème inverse est plus ardue : il est devenu très facile de taxer de faux et créés par IA des événements vrais. Comme tout peut être falsifié, il est difficile de contredire les faits et de les traiter d'IA.
7. Il y a des dérives propres à l'outil, comme un chatbot qui donne ouvertement de mauvaises réponses. Certains veulent créer des IA en accord avec leur idéologie. Certains veulent créer des doubles numériques de personnes décédées (et les vendre) simplement parce que c'est possible.
8. L'IA non générative est presque plus inquiétante car elle ne dit pas son nom, elle est algorithme de recommandation, elle est la recherche Google, elle est le fil d'actualité des réseaux sociaux. Elle permet d'automatiser des comptes pour faire croire à un réel engouement humain pour un sujet (Astroturfing) dans un but de désinformation politique réelle et parfois de vraies conséquences comme l'influence à grande échelle sur des choix électoraux (Cambridge Analytica, Facebook Files...)

Quelques ressources et sources de cette présentation, pour aller plus loin :

• Vidéo de Defakator, de janvier 2023 "Comprendre ChatGPT" : https://www.youtube.com/watch?v=j3fvoM5Er2k
• Très bonne vidéo de Defakator aussi à propos des manipulations : https://www.youtube.com/watch?v=iAy-cw4uSpE
• L'avis du Conseil économique social et environnemental de janvier 2025 : https://www.lecese.fr/sites/default/files/pdf/Avis/2025/2025_22_IA.pdf
• La très bonne (et rigolote) interview d'une ingénieuse en IA par Micode : https://www.youtube.com/watch?v=AfgAEIK9F8c
• Le livre Toxic Data de David Chavalarias : Chavalarias, D. (2022). Toxic data. Flammarion. https://www.google.com/search?client=firefox-b-e&channel=entpr&q=toxic+data+david+chavalarias

Published