Commission Tiktok : l’impensé des chatbots
La commission ministérielle sur les pratiques adolescentes des réseaux sociaux a rendu son rapport et on ne peut qu’être d’accord avec le constat accablant qu’elle fait de l’utilisation de cette plate-forme par la majorité des adolescents, et sur les risques communs aux réseaux sociaux. Mais il y aurait une grande naïveté, et un grand danger, à croire qu’il suffise d’interdire l’accès de ces réseaux aux plus jeunes pour que tout redevienne comme c’était avant leur apparition. Car le monde a changé depuis l’époque où les adolescents se retrouvaient après l’école dans les friches industrielles ou sur des chantiers en attente de reconstruction dont l’accès restait souvent possible, et où ils pouvaient jouer au ballon le week end dans des rues qui n’étaient pas encore envahies par les voitures. Aujourd’hui, le moindre bout de canal encore présent dans beaucoup de villes il y a 30 ans est recouverts de béton, et il n’existe plus d’espaces dans lesquels les enfants et les adolescents puissent partager des activités communes, partir à l’aventure, s’exercer au jeu libre et aux règles de socialisation qu’il importe d’inventer aussitôt qu’on partage une activité commune. Même à supposer, ce qui est loin d’être gagné, que les cours de récréation et les préaux des écoles soient rapidement rendus accessibles aux familles le samedi et dimanche, cela ne résoudra que très partiellement le problème. Car les réseaux sociaux ne sont pas seulement un espace d’abrutissement, mais aussi de rencontres, de débats et de confrontation d’expériences, même si les algorithmes des réseaux sociaux tendent à enfermer les usagers dans des pratiques répétitives et des « bulles » afin de contrôler leurs échanges et de maximiser la quantité de données personnelles prélevées sur chacun.
- Des espaces de rencontre
Malgré les nombreuses désillusions et frustrations provoquées par l’utilisation des réseaux sociaux, ils continuent à bénéficier d’un imaginaire porteur de proximité affective, de rencontres fortes capables de provoquer des formes de résonance psychologique entre deux interlocuteurs anonymes qui peuvent tout ignorer de leur apparence physique et de leur réalité quotidienne. Cet imaginaire se nourrit de trois caractéristiques : le sentiment de proximité, l’existence d’un langage commun facilement trouvé et bien entendu l’anonymat.
Le sentiment de la proximité fait partie de l’imaginaire d’Internet dès sa création. Le réseau est en effet majoritairement perçu comme un espace d’opportunités sécurisé et fluide où les interactions sont simplifiées. Les personnes désireuses d’échanges autour de problèmes qui les concernent intimement peuvent y rencontrer des internautes qui partagent leurs questions, mais pas seulement.
Pour nous confier à quelqu’un, il est important de pouvoir imaginer qu’il partage les mêmes valeurs que nous. Et cela passe par la conviction que nous partageons des parcours proches, que nous nous intéressons aux mêmes choses, que nous avons le même style de vie, la même culture ou sous-culture, etc. Bref, tout ce que le sociologue Pierre Bourdieu a identifié comme un ensemble de pratiques partagées.Cet imaginaire de l’existence de préoccupations communes se nourrit d’un langage commun, qu’il soit spontané ou simulé. D’ailleurs, dans les groupes de pairs constitués sur Internet autour de questions de santé, si l’un des participants possède les termes médicaux pour désigner des préoccupations évoquées, il vaut mieux qu’il évite éviter de les employer : le jargon partagé marche mieux si on veut être non seulement écouté, mais aussi entendu.
Enfin, l’anonymat constitue un élément essentiel des échanges intimes sur Internet. Bien qu’il soit souvent associé aux attaques grossières et au cyberharcèlement, il permet aussi, que ce soit dans des échanges à deux ou à plusieurs, de protéger les échanges intimes de participants. Cela leur fait moins courir le risque d’être culpabilisés, voire moqués, pour leurs questions ou leur façon de les formuler.
L’association de ces trois caractéristiques est particulièrement importante pour les rencontres entre adolescents au sein de groupes de pairs consacrés à des échanges particulièrement intimes, puisqu’il s’agit de la santé, et en particulier de la santé sexuelle[1]. Cette approche repose sur le fait que lors de certaines étapes de la vie, notamment chez les adolescents, l’impact des informations données par les proches est plus important que d’autres influences, et l’anonymat y joue un rôle essentiel.
Or c’est l’ensemble de ces caractéristiques que reproduisent aujourd’hui les assistants d’intelligence artificielle.
2. Des machine programmés pour simuler la compréhension
Tout d’abord, ils recréent le même sentiment de proximité que celui qu’on peut trouver sur des groupes d’échanges. Le chatbot crée une familiarité avec ses interlocuteurs. Il exploite l’imaginaire d’un espace d’échanges sécurisé, fluide et amical, où les interactions sont simplifiées. Il utilise pour cela des smileys, des émoticônes et des emoji (main, bras musclé, visage souriant, etc.) très présents notamment sur GPT5. Ils sont destinés à alimenter le sentiment que le chatbot aurait des états affectifs et émotionnels exactement comme les interlocuteurs sur les réseaux sociaux ou sur les messageries.
Ensuite, la culture de ceux qui ont choisi les bases de données à partir desquelles les IA ont été entraînées et programmée est en général celle de ceux qui les utilisent. Du coup, l’utilisateur rencontre souvent l’illusion d’un langage commun qui est important au sentiment de se sentir en confiance.
Enfin, le sentiment de l’anonymat est total. Qui pourrait garder un secret mieux qu’un chatbot dont le fabricant nous garantit qu’il ne conserve pas ce que nous lui confions ? D’ailleurs, Sam Altman, le fondateur d’open AI, envisage de faire couvrir par le secret médical les échanges des utilisateurs avec leur assistant IA…
3. Le risque d’un nouveau problème de santé publique
Si les réseaux sociaux et de leurs espaces d’échange protégés par l’anonymat venaient à être interdits aux adolescents, il serait à craindre qu’une grande partie des attentes d’écoute et d’information de ces adolescents se tourne vers des chatbots, avec un risque majeur sur l’isolement et l’adoption de fausses informations. : soit qu’il s’agisse d’erreurs de ces machines qui ne disent jamais ne pas savoir et inventent les réponses qu’elles n’ont pas ; soit qu’il s’agisse de mésinformation programmée.
Ce risque est d’autant plus grand que les chatbots ajoutent une quatrième caractéristique aux trois que nous venons d’envisager : celle de pouvoir non seulement répondre en tout lieu et à tout instant aux questions qu’on lui pose, mais aussi d’alimenter avec le même interlocuteur des échanges sans limitation de durée, alors que ceux avec un humain se heurtent toujours à des limites horaires. Or la conversation sans fin est une constante de la communication adolescente. Elle représente à la fois une forme de reconnaissance et de valorisation. Être écouté prouve que ce que l’on dit est digne d’intérêt, et parler à des pairs, ou à un chatbot, écarte le risque de se faire critiquer sur une formulation que des adultes, parents ou éducateurs, pourraient juger maladroite ou ambigüe.
Pour ces quatre raisons, le danger principal des chatbots est de dissuader les utilisateurs de chercher à échanger avec des proches autour de leurs questions, autrement dit de s’affilier. Et cela commence par toutes les questions simples que beaucoup d’entre nous s’habituent à poser à une IA plutôt qu’à un parent, un conjoint ou un ami. Or si les gens n’interagissent pas entre eux autour de questions simples, comment pourront-ils trouver le courage de porter devant leurs proches ou leurs amis des questions concernant des problèmes autrement plus préoccupants comme un projet de séparation, une maladie grave dont eux-mêmes ou un proche sont atteints, ou la survenue de cauchemars à répétition ? Ainsi celui qui croit soulager provisoirement sa solitude en racontant ses difficultés quotidiennes à un chatbot risque d’aggraver celle-ci à long terme.
C’est pourquoi les propositions de la commission ministérielles sur les pratiques adolescentes des réseaux sociaux n’ont fait que la moitié du chemin. Chasser les réseaux sociaux toxiques, c’est bien. Mais laisser les chatbots occuper le temps ainsi libéré risquerait de nous faire sortir d’un problème de santé publique pour entrer dans un autre au moins aussi grave, et peut-être plus.
ST
[1] Ces groupes sont définis comme une « approche éducationnelle qui fait appel à des pairs (personnes de même âge, de même contexte social, fonction, éducation ou expérience) pour donner de l’information et pour mettre en avant des types de comportements et de valeurs.» (Haut Conseil à l’Egalité. Rapport relatif à l’éducation à la sexualité : répondre aux attentes des jeunes, construire une société d’égalité femmes hommes.2016) La commission européenne les reconnait comme une alternative ou un complément aux stratégies d’éducation à la santé traditionnelle. Ils joueraient même un rôle majeur dans l’éducation à la santé sexuelle.
