Article réservé aux abonnésDes robots sociaux aux Cliniques universitaires Saint-Luc ? "Les relations humaines doivent rester la priorité de notre personnel"
Aux Cliniques universitaires Saint-Luc, les robots dits "sociaux" ne semblent pas encore à l'ordre du jour.
- Publié le 21-09-2024 à 20h58
Alors que COMETS, Centre d'éthique du Centre national de recherche scientifique en France, vient d'émettre un avis pour appeler à une extrême vigilance quant au phénomène d'attachement aux robots dits "sociaux", aux Cliniques universitaires Saint Luc, l'enthousiasme pour ces robots ne semble pas vraiment débordant.
"Bien que nous utilisions déjà l'intelligence artificielle et la technologie au sens large à différents niveaux aux Cliniques, nous n'utilisons pas de "robots sociaux", indique Jean Stoefs, responsable du Département administration des patients. Notre approche est de faciliter le travail grâce à la technologie, tant pour les soignants (automatisation de la prise de paramètres, dossier intelligent avec alertes, distributeurs de médicaments, chatbot pour identifier les procédures à appliquer…) que pour les patients (kiosques d'accueil, portail patient…), mais pas de les utiliser pour se substituer aux relations humaines. À titre d'exemple, la mise en place de kiosques d'accueil permet de faciliter l'accueil des patients autonomes en consacrant notre personnel vers les patients qui ont besoin d'une aide ou d'une approche personnalisée. Au niveau des soins, la technologie peut également être utilisée pour soutenir le processus de soins (ex : réalité virtuelle pour gérer la douleur), mais sans remplacer ou compléter le personnel soignant par un "robot social"". Et à l'avenir, quelles sont les intentions ? "Nous n'envisageons pas à ce stade de déployer des "robots sociaux", les relations humaines devant rester la priorité de notre personnel, estime Jean Stoefs. Aussi, nous rejoignons l'avis du Comité d'éthique du CNRS (COMETS) sur l'importance de continuer la recherche dans ces domaines et d'évaluer les conséquences des robots dits "sociaux" avant leur déploiement éventuel".
Pour Joëlle Durbecq, directrice du Département infirmier aux Cliniques universitaires Saint-Luc, "L'intelligence artificielle (IA) et les robots doivent aider à dégager les soignants de tâches administratives pour leur permettre de se recentrer sur leur mission essentielle et ce qui donne du sens au métier : la relation humaine. La littérature décrit bien que si les soins relationnels sont "empêchés" ou inexistants, les soignants quittent la profession…. Ceci dit, nous disposons d'appareillages électroniques qui permettent de détecter plus rapidement le risque chez le patient et d'ainsi gagner du temps pour permettre à l'infirmière de faire son jugement clinique. Mais il ne s'agit pas réellement d'un robot".
L'intelligence artificielle aveugle
Pour le Pr Gérald Deschietere, psychiatre, responsable de l'Unité de crise aux Cliniques universitaires Saint Luc, "les avantages des robots sociaux sont de pouvoir être disponibles à n'importe quel moment et d'avoir une réponse qui permet une prise en considération des particularités de chacun, d'épouser la singularité de chaque personne, d'avoir une attitude moins subjective. Mais le risque est de ne plus avoir un être humain avec son histoire, ses qualités et défauts face à soi. Probablement que certaines personnes paieront cher alors pour avoir à la fois l'aide des robots et d'humains très formés à leur problématique".
Un autre danger est de "ne pas connaître les normes, les valeurs qui sous-tendent les réponses d'un robot, poursuit le psychiatre. Ce que dans le jargon on appelle l'intelligence artificielle implicite (dont on ne connaît pas les fondements) qu'un collègue philosophe, Peter Verdee, appelle aussi l'intelligence artificielle aveugle. Certains robots ont ainsi pu faire l'écho de propos racistes ou encourager au suicide, comme ce fut le cas avec l'affaire du chatbot Eliza. Il est donc important de contrôler les valeurs qui procèdent à l'intelligence artificielle et plus globalement de répéter que ce sont les normes humaines qui doivent dicter l'approche médicale".
Quant au phénomène d'attachement, "oui, c'est un réel danger, nous dit encore le Pr Deschietere, car l'humain fragile, comme on le voit dans les processus sectaires, peut facilement perdre son libre arbitre et se laisser convaincre par des personnes ou des outils dont les buts ne sont pas explicites. Pour toutes ces raisons, je ne peux que partager cet avis et le soutenir".