Les systèmes d’IA génératifs connaissent une diffusion rapide dans la société et les chatbots sont utilisés de manière croissante dans nos activités, personnelles et professionnelles. Fondés sur des méthodes statistiques, l’IA générative peut produire des contenus convaincants sur la forme, mais incertains, biaisés ou erronés sur le fond.
Ces usages émergents interrogent ainsi notre rapport aux contenus artificiels et nos capacités à les évaluer de manière critique. Les premiers travaux évaluant les usages de l’IA, et en particulier de chatbots, rapportent une tendance à l’érosion de l’évaluation critique des contenus artificiels (e.g. excès de confiance, dépendance).
Comment favoriser une posture critique chez les utilisateurs de chatbots ? Le projet Humanibot traite cette problématique sous l’angle du design d’interface. Il fait l’hypothèse que l’interface classique des chatbots, qui reprend les codes des messageries instantanées, pousse les utilisateurs vers des interactions courtes, rapides et sur le mode question-réponse.
Humanibot travaille cette hypothèse : il s’agit d’une interface articulant les fonctionnalités classiques d’un chatbot avec les pratiques de lecture savante, c’est-à-dire la lecture attentive et le commentaire critique. A l’exemple des marginalia laissés par les moines copistes au moyen âge, l’annotation vise à encadrer un texte, à l’expliciter et le mettre en perspective. Elles visent à externaliser la pensée pour favoriser une posture critique.
Le dispositif Humanibot s’inscrit dans le cadre du projet de recherche Intelligence artificielle centrée humain (IACH) développé au sein du Lab’URBA (Université Paris-Est Créteil).