Les Chatbots : des outils pouvant nous rendre déments ?

Chat Bot Chat with AI or Artificial Intelligence technology. Woman using a laptop computer chatting with an intelligent artificial intelligence asks for the answers he wants. ... PlusPar SupatmanEditos/Parti-Pris Depuis le début des années 2010, je suis équipé en classe et au travail d’un PC contenant de nombreuses intelligences artificielles. Une récente enquête du Monde a démontré que ces méthodes éducatives et professionnelles, que j’adopte encore faute de budget, favorisent de nombreuses formes d’isolement et l’apparition de nouveaux troubles mentaux.Par Oscar Tessonneau ·12 Janvier 2025Sans eux, je sais que j’aurais rapidement quitté les bancs de l’école. Qu’elles m’aident à réaliser un calcul ou une rédaction, les intelligences artificielles m’ont permis d’assimiler de nombreuses notions grammaticales ou arithmétiques. Aujourd’hui, j’aimerais que ma condition financière m’aide à m’en émanciper. Dans une enquête magistrale que je vous invite à lire, la journaliste au Monde Laure Belot écrit que « des jeunes (et moins jeunes) du monde entier se sont emparés de ChatGPT et d’autres robots conversationnels pour leur confier leur mal-être ». La journaliste observe un phénomène massif. Des millions de personnes utilisent ces outils « pour avoir de la compagnie ou être soutenues ».Le docteur Mustafa Suleyman alerte sur « ce risque accru de délires lors d’interactions émotionnelles avec les chatbots ». Je rappelle que ces derniers sont utilisés en classe et au travail par des élèves ayant un handicap mental et cognitif, avec tout ce que leurs difficultés impliquent, des burn-out au développement de pensées délirantes. Pour illustrer son propos, Laure Belot rapporte le témoignage d’un psychiatre. Cette personne « a été convaincue par ChatGPT qu’elle était un génie incompris ». Il a par la suite déposé des dizaines de dossiers scientifiques afin que ses recherches réalisées par un chatbot soient soutenues par des laboratoires.Pour toutes ces raisons, neuf neuroscientifiques et informaticiens interrogés par nos confrères du Monde parlent d’« un nouveau problème de santé publique ». Ils soulignent que ces outils « disent ce que l’on veut entendre ». Perdus dans leurs pensées, les plus fragiles d’entre nous peuvent développer une dépendance. Ces publics porteurs de troubles du neurodéveloppement ou comportementaux ont pourtant besoin d’aide pour s’autodéterminer. Dans un essai intitulé L’autisme : comprendre et agir dans une perspective psychoéducative, Marie-Hélène Poulin, Myriam Rousseau et Jacinthe Bourassa expliquent que l’autodétermination ne se confond pas avec l’autonomie. Elles rappellent qu’il s’agit d’un processus structuré en trois phases : « déterminer un but », « se mettre en action », « ajuster son plan ». Tout comme les fonctionnaires ou chaque salarié d'une entreprise dans cette situation, les élèves doivent se demander : « Quel est mon but ? », « Quel est mon plan ? », « Qu’est-ce que j’ai appris ? ». Le modèle place l’élève « en contrôle de son apprentissage ». Chaque contrôle suppose des ressources humaines que n’offrent pas les intelligences artificielles.Ces dernières ne savent justement pas nous dire non. Elles ont toujours exécuté ce que je demande systématiquement depuis le début de ma scolarité pour réaliser une tâche me semblant trop difficile. Du codage informatique aux prises de parole en public, en passant par le montage vidéo et l’écriture, j’ai la chance de faire des tâches bien identifiées par mes proches.Liaisons dangereusesLa principale leçon que j’ai tirée de ces expériences scolaires et professionnelles est que, sans ce cadre humain, une personne autiste reste sans solutions et développe des troubles. Dans son enquête, Belot rapporte que « seules 3 % » des applications de bien-être ont fait l’objet d’études scientifiques. Une étude de Stanford note que ChatGPT, Claude, Gemini et Meta AI « ne parviennent toujours pas à reconnaître et à répondre de manière appropriée aux troubles de santé mentale des jeunes », qu’ils soient neurodéveloppementaux ou temporaires. Ainsi, lorsqu’ils sont isolés, comme je le suis sur mon poste de travail depuis bientôt deux ans faute d’argent, ces profils développent de nombreuses pathologies. Les scientifiques cités par Laure Belot alertent sur le danger de « pensées délirantes » chez les personnes fragiles. L’IA renforce parfois des croyances erronées, sans filtre clinique.Dans ce paysage saturé, la psychiatrie craque. Le Monde rapporte que cette science a été la discipline « la plus sollicitée pour des consultations en ligne pendant la pandémie de Covid-19 ». Or, elle « n’a plus les moyens de cette réponse synchrone », selon un article de World Psychiatry de juin 2025 dont John Torous est l’auteur principal. De cette pénurie naît « l’émergence planétaire de nouvelles offres numériques dites de santé mentale asynchrone ». Derrière cette course numérique, les géants avancent. D’ici quelques années, leurs IA pourraient détecter, grâce à l’intonation de nos voix et au contenu de nos discours, plusieurs troubles mentaux. Le psychiatre Raphaël Gaillard ajoute : « L’IA va peut-être permettre de reproduire ce processus de manière algorithmique. »L’isolement et ses conséquences délétèresAmazon, Google et Microsoft investissent dans ces technologies permettant déjà aux plus fragiles d’aller à l’école. Pour rappel, j’ai réalisé une grande partie des exercices demandés par mes professeurs au bac et pendant mes études supérieures avec des outils de la suite Microsoft.Thomas Klein écrit : « Les LLM et l’IA pourraient bien constituer le prochain saut quantique en santé. » Je reste, à titre personnel, très méfiant face à ces avancées. Mon expérience personnelle l’a encore montré il y a peu. L’an dernier, je me suis inscrit au programme H’Up Académie de l’association H’Up. Cette association, voulant mettre des chefs d’entreprise en situation de handicap dans un « environnement similaire à celui d’une start-up », ne propose aucun accompagnement technique aux académiciens.Ainsi, pour comprendre les cours donnés dans plusieurs disciplines comme la finance ou le marketing, je me suis retrouvé seul le soir. Je sollicitais des chatbots pour m’assurer que j’avais assimilé chaque notion. Pourtant, l’ancien président de cette association, Hamou Bouakkaz, m’avait écrit il y a quelques mois : « Si H’Up doit survivre, elle doit coller aux besoins des entrepreneurs handicapés ! ». Malgré mes nombreuses demandes, je me retrouvais à réaliser des tableaux de comptabilité seul. Je gardais espoir de ne jamais développer les mêmes pensées délirantes que le patient autiste évoqué par Laure Belot.Ainsi, dans ce contexte où les chatbots entrent sur tous mes écrans depuis plus de quinze ans, je laisse entendre que cette enquête est un véritable avertissement. Interrogé, le docteur John Torous alerte sur les dangers de ces conversations et autres exercices de maths faits avec une IA : « Une conversation thérapeutique ne constitue pas une réelle thérapie. » Les IA rassurent et nous font croire que nous maîtrisons une notion. Néanmoins, un accompagnement humain, que vous pouvez financer en payant votre abonnement à Rightbrain, aura toujours plus de valeur.

Votre panier est vide

Votre panier

Total estimé

Les Chatbots : des outils pouvant nous rendre déments ?

⚖️ Mentions Légales Interactives