keyboard_arrow_left Retour
DOSSIER I.A

Robots soigneurs: une question d'éthique

P our l’instant, le temps et l’argent coulent à flot dans le développement de robots soigneurs. Les questions d’éthique ne doivent pas être ignorées.

Un texte de Sarah Heinzmann, initialement publié sur Infosperber le 13 juillet 2019

Traduction de Marta Czarska


Le phoque-robot «Paro» a le pelage doux et de grands yeux. Il répond aux caresses en ronronnant. Mais «Paro» peut faire bien plus. Il reconnait les visages et l’état émotionnel et peut ainsi construire une relation avec les personnes. Il a un effet apaisant sur les malades atteints de démence. Le phoque-robot arrive désormais dans les établissement de soins.

Lors de la manifestation «Soins et robots: cela a-t-il un sens?» du 13 juin à la maison des générations de Berne («Generationenhaus Bern»), «Paro» a aussi attiré tous les regards. Même s’il n’avait personne à y calmer. Il y servait bien plus d’exemple pour un développement des soins, dont le futur n’est pas encore clair, et y déclenchait un tas de questions. Le but de l’événement était de discuter avec un large public des implications éthiques des robots dans les soins aux personnes.

Les robots devraient aider

Les robots soigneurs sont des systèmes techniques qui peuvent récolter de manière autonome des informations dans le domaine des soins et peuvent ensuite les transformer en processus mécaniques. Diverses sociétés novatrices, parmi elles l’entreprise suisse «F&P», travaillent en ce moment au développement de ces machines.

Les utilisations sont nombreuses. Ainsi, le robot «Paro» sert de brise-glace dans la thérapie des personnes atteintes de graves déficits émotionnels. Les systèmes robotiques «Pepper» ou «Nao», grâce à leurs petits yeux et leurs mimiques amicales, ressemblent à des enfants. Afin de décharger le personnel soignant, ils sont déjà testés aujourd’hui dans la prise en charge et la stimulation des seniors. Les deux systèmes peuvent détecter les émotions sur les visages et y réagir. Ainsi, une interaction naturelle entre la personne et la machine devrait être possible.

Le «Robobear», qui ressemble à un ours, travaille en tandem avec le personnel soignant pour soulever ou déplacer les patients. L'assistant de soins «Lio» de «F&P» a l’air bien moins mignon, mais peut avoir des conversations simples et être d’une grande aide pour les gestes du quotidien.

Une innovation fondée sur les valeurs

La question de savoir dans quelle direction ira le développement des robots soigneurs dans l’avenir est intimement liée aux innovations techniques de l’intelligence artificielle. Les innovations dans le domaine des soins ne se font cependant pas dans le vide, mais reflètent les normes et les valeurs sociales.

On peut imaginer qu’une large utilisation de robots dans le domaine des soins changera fondamentalement les interactions avec les malades ou les personnes âgées. Étant donné qu’il y a d’étroites connexions entre la morale, la société et la technique, une discussion est essentielle sur la manière d’approcher les diverses technologies d’un point de vue éthique.

De nombreuses questions éthiques

Pour commencer, la question de la sécurité. Faisons-nous assez confiance à l’«ours-robot» pour le laisser soulever un malade ou une personne âgée? Et que faire si la machine laisse tomber quelqu’un? Il n’est pas clair qui serait tenu responsable d’un tel dysfonctionnement. Tant que la question de la responsabilité n'est pas résolue, il est inimaginable d’installer des robots soigneurs à grande échelle. Les doutes en matière d’assurance sont trop grands.

Viennent s’y ajouter les craintes quant à la sphère privée des patients. Pour être opérationnel, un robot soigneur doit récolter et traiter une somme énorme de données provenant de son environnement. Il est donc équipé de caméras, micros et senseurs et a une grande capacité de mémoire. L’usage au quotidien implique de nombreuses données sensibles qui doivent être bien protégées.

Une initiative qui, du moins dans le passé, a déjà échoué. En 2015, 78,8 millions de personnes ont été victimes de hackers qui ont pénétré le système d’un grand assureur-maladie américain et ont volés les données sensibles des patients. Qui peut être sûr que les données collectées par un robot soigneurs ne tomberont pas entre de mauvaises mains?

Comme pour de nombreuses innovations dans le domaine de la santé, la question de la répartition se pose aussi dans la diffusion des robots soigneurs. Si les robots soigneurs devaient représenter une alternative bon marché, apparaitrait le risque d’une médecine à deux vitesses où la quantité des interactions inter-humaines dépendrait de la situation financière des patients.

Un autre danger de la possible automatisation du domaine des soins est, par ailleurs, la perte de postes de travail. Il semble probable que la technologie ne remplacera pas les métiers de la santé, mais les assistera. D’une part en raison de la complexité des interactions inter-humaines requises dans les soins, d’autre part en raison de l’état d’urgence qui dominera ces métiers dans l’avenir.

Autonomie en danger

Pour finir, on peut imaginer que l’utilisation de robots soigneurs mette aussi en danger l’autonomie des patients. Outre le principe d'innocuité, le respect de l’autonomie des patients est un principe fondamental de l’éthique des soins et de la médecine. Il en découle que le recours aux robots soigneurs ne devrait en principe pas avoir lieu sans le consentement du patient auquel il est destiné. Mais comment peut-on avoir le consentement pour des interactions avec des robots soigneurs d'une personne incapable de discernement?

Dès lors, il faut aussi déterminer à quel point la dignité de la personne peut être blessée par l’utilisation de robots soigneurs. Toute personne, particulièrement si elle souffre d’atteintes physiques ou psychiques, n’a-t-elle pas droit à l’empathie et à l’interaction humaines? L’apparition de robots soigneurs peut aussi être problématique pour les professionnels des soins. Si le métier de soigneur apparait comme pouvant être remplacé par la technologie, les personnes travaillant dans le domaine de la santé peuvent se sentir dévalorisées.

Sensibilisation et différentiation

Il n'est pas encore clair quel rôle joueront à l’avenir les robots dans le système de la santé. Même s’ils peuvent apporter une aide non négligeable aux soins, il y a beaucoup de questions éthiques auxquelles il faudra répondre avant qu’un déploiement à large échelle de robots soigneurs puisse être envisagé. Nous avons presque tous besoin de soins au cours de notre vie. Dès lors, le débat sur les chances et les risques de cette innovation doit avoir lieu dans la société dans son ensemble. Ce n'est qu’ainsi que l’on évitera d’avancer à l’aveuglette.

C'était exactement le but de l’évènement public «Soins et robots: cela a-t-il un sens?» Des personnes de divers horizons se sont réunies afin de débattre des implications éthiques des robots soigneurs à un niveau intergénérationnel.

Réflexions dystopiques

Les participants ont pu exprimer leurs préoccupations sur le sujet lors d'un atelier. Ils ont abordé des scénarios qui sont bien plus dystopiques que la mise en place du phoque-robot «Paro» chez les malades atteints de démence. Et si, dans l’avenir, les robots décidaient de notre bien-être en nous donnant des médicaments sans y être autorisés? Ou si les malades et les personnes âgées étaient pris en charge dans des institutions entièrement automatisées et que les soins donnés par les humains n’étaient plus qu’un rare privilège?

Il n’est pas surprenant que de tels scénarios soient inquiétants pour beaucoup. «Si les soins sont automatisés, nous perdons ce qui est le plus humain, à savoir l’interaction sociale!» craint une participante qui travaille dans les soins depuis des décennies. Par ailleurs, on s’est inquiété pour l’autonomie des patients. Une thérapeute qui utilise au quotidien le robot «Paro», relativise: «Nous pratiquons la transparence; si quelqu’un ne veut pas travailler avec «Paro», nous acceptons cette décision.»

«Machine de soins neutre»

Même si le système de soins automatisé fait de nombreux sceptiques, certains participants notent également des points positifs pour sa mise en œuvre. «Un robot n’a ni sympathie ni antipathie envers les patients. Dès lors, il est probablement plus à même de traiter tous de manière égale», dit un participant âgé, qui sourit à l’idée d’avoir un robot qui prenne soin de lui.

Une participante travaillant dans le domaine médical a évoqué un bon emploi pour les robots soigneurs, malgré une certaine méfiance au début: «Si les robots peuvent se charger d’activités pénibles, comme la distribution des médicaments, le personnel soignant aura peut-être plus de temps pour les patients.» Les robots soigneurs pourraient ainsi au mieux aider à améliorer les interactions entre le personnel soignant et les patients.

Contributions d’experts

Les expériences de travail quotidien avec des robots soigneurs étaient au centre d'un débat sur podium avec des experts. Deux thérapeutes qui travaillent avec «Paro» ont parlé de leurs expériences positives grâce à l’utilisation du phoque-robot dans les soins aux personnes âgées. Mais elles sont claires: «Le phoque est un auxiliaire à la thérapie, il ne peut en aucun cas la remplacer.»

Avec un regard sur le Japon, où elle étudie la diffusion des robots soigneurs, la sociologue Sabina Misoch souligne que l’utilisation de robots comme alternative – contrairement à une utilisation auxiliaire – n’est pas à l’ordre du jour pour le moment. Les systèmes n’y sont pas encore prêts.

«Formation éthique pour fabriquants et programmateurs»

Cependant, l’éthicien Jean-Daniel Strub lance un appel: «Nous devons prendre le temps dès à présent de nous confronter aux questions éthiques liées au développement de ces technologies, et non pas lorsque le virage sera déjà pris et qu’il sera trop tard pour s’atteler à ces questions.»

Le professeur Hartmut Schulze, qui étudie les interactions humains-machines, comprend le scepticisme du public. Mener un débat public sur les implications éthiques des robots soigneurs est un bon début. «Mais il faut aussi que ceux qui construirons et programmerons ces robots à l'avenir bénéficient d’une formation éthique.»

L’utilisation des robots soigneurs est un sujet qui divise, on l’a bien vu lors de la manifestation de Berne. Comme pour toutes les grandes questions de la vie, il n’y a pas ici de bien ou de mal clairement établi. Mais un débat sur l’avenir des soins automatisés est une nécessité. Les soins sont un domaine bien trop important pour que l’on puisse en faire une expérimentation technologique.


Sarah Heinzmann a étudié la philosophie, les sciences politiques et l’économie à l’Université de Lucerne. Elle travaille actuellement pour «Ethix - Lab for Innovation Ethics» et s’occupe de l’éthique de l’innovation. «Ethix» a co-organisé la manifestation «Soins et robots: cela a-t-il un sens?»

Bon pour la tête est une association à but non lucratif, emmenée par un comité de bénévoles composé de Sarah Dohr (présidente), Geoffrey Genest, Yves Genier, Anna Lietti, Denis Masmejan, Patrick-Morier-Genoud, Jacques Pilet, Chantal Tauxe (ordre alphabétique).

© 2019 - Association Bon pour la tête | une création WGR