Alerte aux peluches connectées

Le Père Noël américain propose cette année aux enfants américains un jouet merveilleux. Une peluche qui fait la conversation ! Imaginez un gros cube en tissu molletonné garni d’un visage et muni à l’intérieur d’un robot conversationnel. La peluche est en effet munie d’une poche arrière zippée qui contient un boîtier vocal compatible Wi-Fi. Elle est ainsi reliée à un modèle de langage d’intelligence artificielle programmé pour dialoguer avec des enfants dès l’âge de trois ans, nous dit le constructeur.

Ces « peluches » sont proposées pour 99 dollars (84 euros environ) comme une alternative aux écrans. L’argument de vente ne peut pas être plus clair : « Parents, vous êtes très occupés, mais vous ne voulez pas que vos enfants restent devant un écran car de nombreux experts en ont dénoncé la nocivité. Alors achetez-leur une peluche connectée ».

L’enfant parle à sa peluche, et sa peluche lui répond. Il en existe plusieurs modèles adaptés aux goûts de l’enfant. Elles s’appellent Grem, Gabbo et Grok… comme l’IA proposée par Elon Musk.

Pour rassurer les parents, les questions sur le sexe, la violence, la politique et les jurons resteront sans réponse. La peluche répondra que c’est un peu compliqué pour elle, qu’elle aime surtout jouer et elle vous demandera quelle est votre histoire ou votre jeu préféré.

Mais les fabricants ont sans doute estimé cette précaution insuffisante. Ils l’ont donc redoublée d’une autre. Les conversations entre un enfant et sa peluche sont retranscrites et transmises sur le téléphone du tuteur. Et non seulement ils peuvent les écouter, mais ils peuvent aussi faire évoluer les réponses du chatbot : par exemple lui demander de détourner l’enfant de sa passion pour les dinosaures et de l’orienter vers un programme scolaire.

Et plus tard ? Lorsque l’enfant grandit, il y a forcément un moment où il va comprendre que tout ce qu’il disait à sa peluche a été écouté par ses parents, et qu’ils ont même pu utiliser cet outil pour influencer ses choix. La confiance que l’enfant accordait jusque-là à ses parents sera alors brutalement et irrémédiablement rompue. Il risque de se détourner d’eux aux moments où il en aurait le plus besoin. Des parents auront-ils le courage d’anticiper ce moment en expliquant à leur enfant qu’ils l’ont surveillé et influencé depuis sa troisième année en téléguidant les propos de son doudou ?

De tels « jouets » ont-ils quelque chance d’arriver en Europe ?

Et en France ? Ary est arrivé chez Leclerc pour être mis sous le sapin ! C’est la première peluche capable de converser par intelligence artificielle générative distribuée dans une grande surface française. Vendue 100 euros, elle promet de stimuler leurs enfants tout en leur rendant du temps libre. Là encore, son boîtier électronique est équipé d’un micro, d’un haut-parleur, d’une batterie et d’une antenne Wi-Fi, bien qu’il ne permette pas les écoutes et les contrôles parentaux de son équivalent américain. En revanche, Ary sait écarter de la même façon les sujets litigieux, propose de raconter des histoires aux enfants, les flatte et laisse même entendre qu’elles ont des émotions propres. Alors que les chatbots sont déjà reconnus pour créer des formes de dépendance émotionnelle chez les enfants et les adolescents, faudra-t-il attendre une génération pour qu’ils soient interdits aux jeunes enfants ?

Pourtant, l’annexe III, point 1, de l’IA Act adopté en 2024 par l’Europe précise : « Les systèmes d’IA destinés à être utilisés par des enfants sont considérés comme des systèmes d’IA à haut risque en raison de la vulnérabilité spécifique de ce public ».

S.T.