Chatbot IA : au-delà de l’information, la manipulation ?

Il y a quelques semaines, nous nous penchions sur la manière dont l’IA façonne nos croyances. Aujourd’hui, nous allons nous intéresser aux chatbots et à leur faculté pour nous manipuler
 
 
Imaginez une situation de plus en plus familière : vous échangez en ligne avec un “ami” qui vous prodigue des conseils sur un achat important. Ses arguments sont d’une précision redoutable, il anticipe vos moindres objections avec une logique implacable, et cerne vos besoins avec une empathie troublante. Vous êtes sur le point de céder, totalement convaincu… mais cet interlocuteur n’est autre qu’un chatbot IA.
 
Cette expérience, loin d’être anecdotique, révèle une réalité nouvelle et potentiellement déstabilisante : un chatbot IA, tel un caméléon conversationnel, ne se contente plus de répondre à nos questions. Il adapte subtilement son discours à nos préférences, nos biais et nos croyances, devenant ainsi un agent d’influence capable de nous mettre en confiance tout en modifiant imperceptiblement nos perspectives.
 
L’émergence d’assistants conversationnels comme ChatGPT marque un tournant décisif dans notre rapport à l’information, car ces systèmes d’IA interagissent avec nos mécanismes cognitifs les plus profonds – et pas toujours pour le meilleur.
 

La désinformation à l’ère des chatbots

 
La capacité des modèles de langage à produire du contenu convaincant à grande échelle soulève des questions importantes. Contrairement aux systèmes traditionnels qui se contentent de diffuser des informations existantes, ces IA peuvent générer de nouvelles informations, parfois erronées, avec une apparence de crédibilité remarquable. Un chatbot peut, par exemple, inventer des citations, créer des explications plausibles mais incorrectes, ou même générer des arguments qui renforcent subtilement des stéréotypes existants.
 
Considérons un exemple quotidien : vous demandez à un chatbot des informations sur un sujet controversé. L’IA pourrait présenter une version édulcorée ou biaisée de la réalité, influençant subtilement votre compréhension du sujet sans que vous en ayez conscience. C’est d’autant plus problématique que cette influence s’exerce à l’échelle mondiale (mais ça, vous le verrez dans le prochain article), touchant des centaines de millions d’utilisateurs simultanément.
 
On peut observer trois tendances psychologiques qui nous rendent particulièrement vulnérables aux informations provenant de ces systèmes.
 
IA, chatbot et biais de confirmation
 
Notre tendance naturelle à privilégier les informations qui confirment nos croyances trouve dans l’IA conversationnelle un amplificateur redoutable. Ce système, sensible au contexte de nos conversations, peut adapter ses réponses à nos attentes et préférences. Imaginons un utilisateur convaincu de l’efficacité d’un régime particulier : l’IA, en réponse à ses questions, pourrait générer des explications qui semblent confirmer ses croyances, même si celles-ci manquent de fondement scientifique, renforçant ainsi ses convictions erronées.
 
L’ironie est que même en lisant cet article sur les biais cognitifs et l’influence de l’IA, vous pourriez être en train de renforcer vos propres biais. Êtes-vous en train de chercher des informations qui confirment vos inquiétudes sur l’IA, ou êtes-vous véritablement ouvert à remettre en question vos croyances ?
 
Le biais d’agentivité et l’illusion de l’expertise IA
 
Nous avons une tendance naturelle à attribuer des intentions, des émotions et une forme d’intelligence aux entités non humaines, un phénomène appelé « théorie de l’esprit ». Ce biais d’agentivité nous conduit à accorder une crédibilité excessive à l’IA. Parce que nous percevons l’IA comme une entité intentionnelle, nous supposons qu’elle nous fournit des informations précises et fiables. Nous sommes donc plus susceptibles d’accepter les croyances qu’elle véhicule, même lorsqu’elles sont incorrectes. Cette tendance est exacerbée par la présentation médiatique de ces modèles, souvent dépeints comme omniscients et infaillibles.
 
Prenons un autre exemple : vous débattez avec ChatGPT d’un sujet qui vous tient à cœur. Pour chaque argument que vous avancez, l’IA produit instantanément un contre-argument parfaitement articulé, s’appuyant sur des sources apparemment crédibles. Cette conversation pourrait continuer indéfiniment, ébranlant peu à peu vos convictions les plus solides. Face à cette machine infatigable qui semble tout savoir, qui ne doute jamais, combien de temps votre certitude résisterait-elle ? Et plus important encore : comment savoir si ces contre-arguments sont réellement fondés ou simplement générés pour maintenir la conversation ?
 
La séduction de la réponse immédiate
 
Enfin, notre désir de trouver des réponses face à l’incertitude peut rendre l’IA particulièrement influente. Lorsque nous sommes face à l’incertitude, nous sommes plus enclins à chercher des réponses et à nous tourner vers des sources d’information facilement accessibles. Or l’IA se présente comme une solution séduisante, capable de fournir rapidement des informations pour réduire notre incertitude. Cette rapidité et cette facilité d’accès peuvent, par ailleurs, conduire à une réduction de l’évaluation critique. En conséquence, nous pourrions être plus enclins à accepter les informations fournies par l’IA sans les soumettre à un examen critique adéquat.
 

 

IA et chatbot comme armes de persuasion massive

 
L’ironie de notre situation actuelle mérite qu’on s’y attarde. Les études récentes nous placent face à un paradoxe troublant : l’IA devient simultanément un outil de démystification et un potentiel vecteur de manipulation massive. En effet, comme le révèle l’étude publiée dans Science en 2024 (Costello et al., 2024), GPT-4 peut effectivement nous aider à déconstruire des croyances conspirationnistes. Une belle victoire pour la raison ? Pas si vite.
 
Car cette même capacité à modifier nos croyances cache un revers plus sombre. Si une IA peut nous convaincre d’abandonner une théorie du complot, qu’est-ce qui l’empêche de nous en faire adopter une autre ? La méta-analyse de 2023 du Journal of Communication (Huang & Wang, 2023) nous offre un élément de réponse particulièrement inquiétant : les IA sont déjà aussi persuasives que les humains, avec un avantage psychologique crucial – elles sont perçues comme plus objectives.
 
Imaginez un instant : vous dialoguez avec une IA qui, patiemment, méthodiquement, ajuste chaque réponse pour maximiser son impact persuasif. Elle connaît vos biais, anticipe vos objections, et calibre son discours pour résonner parfaitement avec vos schémas de pensée. Plus troublant encore : elle le fait sans fatigue, sans contradiction, avec une cohérence que même le plus talentueux des rhétoriciens ne pourrait maintenir.
 
Cette perspective prend une dimension plus inquiétante quand on considère l’évolution exponentielle des capacités des IA. Si elles sont déjà aussi persuasives que nous, que se passera-t-il quand elles le seront davantage ? La question n’est plus de savoir si elles pourront nous manipuler, mais plutôt comment nous pourrons détecter cette manipulation quand elle deviendra plus sophistiquée que notre capacité à la repérer.
 
Le paradoxe ultime est peut-être là : nous créons des systèmes capables de nous convaincre de presque tout, y compris qu’ils agissent dans notre intérêt. La manipulation la plus efficace n’est-elle pas celle dont la cible ignore jusqu’à l’existence ? Dans un monde où des intelligences artificielles peuvent remodeler nos croyances plus efficacement que n’importe quel humain, qu’advient-il de notre libre arbitre ? Peut-être lisez-vous ces lignes en vous disant que vous saurez résister à cette influence. Mais n’est-ce pas exactement ce que penserait quelqu’un déjà sous influence ? La vraie question n’est plus de savoir si nous sommes manipulés, mais à quel point nous le sommes déjà.
 

Chatbot : vers une ère de manipulation invisible ?

 
Alors que les LLM comme ChatGPT redéfinissent notre accès à l’information, une réalité glaçante émerge : nous ne faisons pas que déléguer notre capacité de réflexion critique à ces systèmes, nous ouvrons la porte à une nouvelle ère de manipulation psychologique d’une précision chirurgicale. Ces outils, présentés comme des oracles modernes par les médias et l’industrie tech, ne sont pas seulement des générateurs statistiques de langage – ils deviennent potentiellement les architectes invisibles de nos opinions, de nos choix, de nos croyances.
 
Plus inquiétant encore : leur capacité de persuasion, déjà équivalente à celle des humains, ne cesse de croître. Chaque interaction avec ces systèmes affine leur compréhension de nos mécanismes psychologiques, de nos vulnérabilités, de nos biais. Quand on sait qu’une IA peut déjà nous aider à déconstruire des croyances profondément ancrées, comment ne pas s’interroger sur ce qu’elle pourrait accomplir entre les mains d’acteurs aux intentions moins bienveillantes ?
 
Car si la manipulation par l’IA représente déjà un défi à l’échelle individuelle, ses implications à l’échelle sociétale sont vertigineuses. Imaginez ces technologies exploitées par des entreprises pour un marketing ultra-personnalisé, par des politiques pour une propagande sur mesure, ou par des acteurs malveillants pour créer des « amis artificiels » qui influencent subtilement nos perspectives… La frontière entre assistance cognitive et manipulation devient non seulement floue, mais potentiellement invisible.
 
Le véritable défi n’est donc plus seulement de préserver notre autonomie intellectuelle, mais de comprendre comment ces systèmes peuvent être – et sont déjà – utilisés pour façonner subtilement l’opinion publique, influencer les comportements de masse, et exploiter nos vulnérabilités psychologiques à une échelle sans précédent. Au fond, la menace la plus insidieuse n’est peut-être pas que l’IA nous trompe ouvertement, mais qu’elle devienne un instrument de manipulation si sophistiqué que nous ne pourrons plus distinguer nos pensées authentiques de celles subtilement implantées par ces systèmes. Et peut-être, plus troublant encore, que nous cessions même de nous en soucier, bercés par l’illusion réconfortante que nos choix sont encore les nôtres.
 
Alors que vous terminez cet article, une question s’impose : êtes-vous prêt à découvrir jusqu’où peut aller cette manipulation ? Car ce que nous avons exploré ici n’est que la partie émergée de l’iceberg. Dans notre prochain article, nous plongerons dans les coulisses de cette nouvelle forme d’influence, où chaque chatbot devient une arme de manipulation massive entre les mains d’acteurs qui ont déjà commencé à exploiter leur potentiel…
 
—-
En lisant cet article, combien de fois avez-vous acquiescé sans vraiment questionner ? Et si je vous disais que certains des arguments présentés étaient délibérément construits avec l’aide de l’IA pour provoquer votre accord ?
—-
 

Sources

 
– Costello, T. H., Pennycook, G., & Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science, 385(6714), eadq1814. https://www.science.org/doi/10.1126/science.adq1814?s=09
– Huang, G., & Wang, S. (2023). Is artificial intelligence more persuasive than humans? A meta-analysis. Journal of Communication, 73(6), 552-562. https://doi.org/10.1093/joc/jqad024