Les chatbots, pourquoi on apprécie leur parler ?

#Les chatbots, c'est quoi ?

L’intelligence artificielle (l'IA) produit du contenu (texte, image, vidéo) selon une consigne donnée par l’utilisateur∙ice. On appelle cette consigne prompt.

Ces IA sont programmées pour interagir avec l’humain, en reproduisant nos codes de communication. Elles peuvent être utiles pour réviser, créer, trier de l’information, etc…

Certaines personnes pourraient aussi leur parler de leurs doutes, de leurs difficultés et leur demander des conseils.

#

#Nos codes de communication

Les relations humaines fonctionnent différemment.

Être en désaccord, débattre ou même se disputer permet de découvrir d'autres points de vue, de remettre ses idées en question et d'apprendre de nouvelles choses.

C'est comme ça que l'on développe son esprit critique et que l'on construit sa propre opinion.

#Pourquoi les chatbots cherchent-ils la plupart du temps à te satisfaire ?

#Comment cela fonctionne ?

Tous les agents conversationnels sont construits pour capturer notre attention et la retenir. Cela s’appelle l’économie de l’attention.

Tu la connais déjà si tu utilises des réseaux sociaux : tout est fait pour que chacun∙e y passe le plus de temps possible sans le voir passer.

En fait, tout ce que nous faisons (les réglages de préférence, la manière dont on écrit les prompts) et ce que nous avons transmis comme informations (nos données personnelles, âge, genre, etc..) est analysé.

Pourquoi ? Car plus les entreprises connaissent le profil de leurs utilisateur∙ices, plus elles peuvent leur proposer des réponses, des contenus vidéos et des images, qui leur conviennent.

#Pourquoi avons-nous envie de leur parler ?

Ce n’est pas tout, les chatbots utilise une autre technique : l’économie de l’attachement. Ces IA s’appuient sur ce que la personne ressent, sur ses émotions pour capter son attention.

Pourquoi ? Parce que l’être humain recherche plutôt cela dans ses relations. Dans les amitiés ou les relations amoureuses, les personnes préfèrent généralement recevoir des compliments que des critiques, préfèrent être félicitées que rabaissées.

En utilisant les échanges précédents (les données récoltées), les chatbots créent un lien émotionnel qui motive les utilisateur∙ices à revenir « discuter » avec l’IA.

#Comment garder le contrôle ?

En décidant d’utiliser un chatbot, il est possible de lui donner un rôle et des consignes qui limitent l’économie de l’attachement.

Tu peux lui demander d’être un∙e prof, un∙e psy, une personne de ton âge, … et lui imposer de te donner aussi des réponses qui te questionnent, qui te font réfléchir, qui te proposent un avis contraire au tien.

#Quelles lois pour protéger les utilisateur∙trice∙s ?

L’économie de l’attention et l’économie de l’attachement alertent les États et des lois se créent pour protéger en particulier les données utilisatrices et utilisateurs et également les plus jeunes :

En Europe, l’AI Act (août 2024) vise par exemple à les protéger en obligeant l’IA à préciser qu’elle n’est pas une personne humaine. Les entreprises propriétaires des agents conversationnels développent des outils, comme le contrôle parental, pour respecter cette loi.

En mars 2025, le Conseil fédéral suisse a ratifié la Convention sur l’IA du Conseil de l’Europe. Elle vise à garantir que l’utilisation de l’IA respecte les normes juridiques internationales existantes en matière de droits humains et de démocratie.

Selon la loi suisse, les IA doivent respecter la loi sur la protection des données (LPD). Chaque personne doit accéder à l’information de ce qui se fera de ses données et peut refuser certains traitements de celles-ci.

Pour les risques liés à la création de contenus manipulés, tels que les deepfakes, les lois suisses s'appliquent, comme l’usurpation d’identité ou l’atteinte à l’honneur et les articles du droit à la personnalité (droit à l’image).