SPEED VISION

Approche juridique et tendancielle de la robotique médicale

Alain Bensoussan

www.alain-bensoussan.com

21 mn

Avocat à la Cour d’Appel de Paris

   Vidéo réalisée par Thomas Gouritin, Tomg Conseil

Des robots au bloc opératoire aux robots cobayes, des organes ou membres robotiques aux nano robots, ils envahissent le secteur de santé, et génèrent autant d’inquiétudes qu’ils ouvrent d’horizons. Systèmes complexes incluant en particulier une structure mécanique articulée et motorisée, une interface homme machine, des instruments, des composants électroniques et logiciels, leurs bénéfices sont fonction de la maîtrise de leur utilisation. Quelles sont les tendances ? Quels sont les défis ? Quelle approche juridique adopter ?
<< Fermez les yeux >>

Nous sommes 4 années avant l’année 2020. En ce temps là, les robots jaillissaient des laboratoires et envahissaient les hôpitaux, les cliniques, les pharmacies et même nos domiciles. Les robots chirurgien côtoyaient les robots médecins, les robots journalistes et les robots avocats le secteur de la santé. Les robots vivaient dans le monde 4.0. ; le 3.0 était celui de l’internet des objets ; le 2.0 les réseaux sociaux le jurassique de notre monde virtuel d’aujourd’hui et 1.0 les sites web. Cette sortie des robots marquaient l’avénement de la nouvelle civilisation la Robohumanité ou les hommes et les robots devaient apprendre à vivre – ou plutôt à survivre – avec les robots.

<< Je vous propose un voyage avec les robots médecins, les robots voitures et les robots compagnons.>>
MÉDECINS : Première étape, voyageons en compagnie des robots médecins.

Au bloc, les robots passifs (téléopérés) sont remplacés par les robots actifs. Ces robots réalisent certaines interventions à plus de 80 % reléguant le chirurgien à la position de préparateur et de superviseur de l’opération chirurgicale. Il en est de même des diagnostics complexes. Observez : « Services des urgences » d’un hôpital. Une femme. Il pleut ; elle est désemparée. A l’accueil elle explique qu’elle a besoin d’un diagnostic en matière de cancer. L’infirmière de dispatching analyse la situation et lui propose : « Voulez-vous un rendez-vous avec un médecin ou avec un robot ? » Choquée, elle répond : « Un humain bien sûr ». « Couloir 2, Madame, Porte 7 ». Mauvais choix très mauvais choix. Au couloir 1, Watson consulte le robot avatar d’IBM, le champion numérique qui avait écrasé les meilleurs au jeu Jeopardy et qui aujourd’hui surclasse les spécialistes dans le domaine du diagnostic de certains cancers.

La supériorité des robot-médecins ne peut s’inscrire dans le droit médical traditionnel et tout particulièrement dans celui des dispositifs médicaux. Un robot-médecin supérieur à ses collègues humain ne peut voir ses erreurs réduites à un simple défaut de machine. Au terme de cette première rencontre il est évident que les robots ne sont ni des objets plus ni des humains moins. Si vous penser que la seconde rencontre sera moins dramatique, vous pouvez rêver.

VOITURE : Voyageons avec les robots conducteurs

Regardez : Une cour d’assise. Un jury tétanisé par les enjeux technologiques. A la barre, un officier de police judiciaire présente les lieux du drame : un tronçon de 10 km, encastré dans la montagne, 2 voies séparées par une ligne blanche continue ; la voiture A descend à vitesse normale ; une personne dans l’habitacle : le conducteur ; Au km 7, la voiture B, surgit à grande vitesse et tente de doubler la voiture A tandis que surgit en sens inverse la voiture autonome marquée C sur le schéma voiture autonome, remontant à la vitesse maximale autorisée : personne dans l’habitacle ; Les voitures B et C sont face à face. La collision est inévitable. Et pourtant la voiture autonome C se déporte brusquement pour fracasser la voiture A avec une violence extrême ne laissant aucune chance au conducteur. L’enquête montre que l’ordinateur de bord d’un clic de roue avait télécommandé la rencontre mortelle. La caméra avant de la voiture autonome avait détecté 4 personnes dans la voiture B et une personne dans la voiture A. L’algorithme, concentré d’intelligence artificielle, confondant jeu d’échec et circulation routière avait décidé de sacrifier la pièce humaine A . Chaque juré pense : 4 vies contre une vie. Le monde est piloté par les algorithmes.

Sur fond de silence mathématique, le Président enchaîne : « Qui est responsable ? » : la mère qui a ordonnée au véhicule autonome d’aller chercher les enfants ? Le père propriétaire, absent au moment des faits ? Le vendeur de cette voiture singulière ? Le fabriquant et concepteur de la plateforme d’autonomie ? Ils sont tous prostrés sur le banc des accusés. Pour éclairer le jury le Président appelle à la barre un expert judiciaire en robotique. Cette situation dramatique est particulière au monde des robots dit-il. Un conducteur humain n’a pas la possibilité fonctionnelle de détecter les 4 personnes dans la voiture B et de procéder à arbitrage dans un délai aussi bref.

La rupture technologique induite par la robotique est le résultat de la combinaison des capteurs connectés à l’Internet avec la puissance de calcul embarquée et l’intelligence artificielle associée. Ces nouveaux capteurs permettent aux robots de maîtriser leurs environnements en mettant en oeuvre des capacités de perception supérieurs aux humains. Les informations issues de ces capteurs alimentent en temps réel la plateforme d’intelligence artificielle. Après les espoirs des années 80 et les désillusions des années 90, l’intelligence artificielle permet de doter les robots d’une forme primitive de pensée. Ils communiquent, ils apprennent et ils raisonnement à haute vitesse. L’avocat de la partie civile et l’avocat général soutiennent que le coupable est celui qui a porté le clic mortel. Le meurtrier est le concepteur de l’algorithme. Il a programmé une peine de mort privée faisant du code informatique un code de loi.

« Non coupable » plaide l’avocat du concepteur de la plateforme d’intelligence artificielle. Non, l’écriture informatique n’est pas l’écriture de la loi. Pour réduire l’agressivité d’une telle position il se tourne vers le banc de la partie civile et ajoute « Madame, je respecte votre chagrin mais en l’absence de texte visant une telle situation : ils sont innocents c’est un accident ». Verdict : Acquittement.

Ce procès en avance de phase montre que derrière le caractère angoissant du développement de la robotique se dissimule la détermination du statut politique et juridique des algorithmes : cerveau en devenir des robots. Au terme de cette seconde rencontre, il ressort qu’en l’état de la technologie personne n’est gardien de la voiture C autonome, comme personne n’est gardien de la Google Car qui circule sur les routes américaines en toute liberté : ces voitures obéissent uniquement à leur algorithmes.

Pour éviter l’anarchie, il était nécessaire de réguler la liberté des robots comme la liberté des humains a été régulée. Les personnes physiques disposent d’une personnalité juridique pour exercer leurs droits (droit à l’identité, droit personnel, droit de propriété). De même, une personne morale – telle une entreprise – dispose d’une personnalité juridique particulière décalquée sur celle des personnes physiques avec des adaptations nécessaires. Par exemple, la réclusion criminelle à perpétuité se traduit par la fermeture de l’entreprise : Personne physique : personnalité juridique générale ; Personne morale : personnalité particulière ; Personne robot : personnalité juridique singulière permettant la création d’un nouveau genre. Il devenait nécessaire de modifier le numéro de sécurité nationale avec 1 femme 2 hommes et 3 robots et les caractéristiques suivantes :

  • une identité prénom nom adresse et numéro internet,
  • un capital défini en fonction des risques,
  • une assurance responsabilité civile,
  • une gouvernance similaire à sur celle de personnes morales.

Dans ce cadre, un robot est sujet et non objet de droits.

ROBOTS COMPAGNONS : voyageons avec les robots compagnons en direction des maisons médicalisée.

Cette rencontre nous permettra de parcourir les singularités de cette personnalité juridique à travers la Responsabilité,  la Traçabilité et la Dignité.

Examinez la responsabilité du robot et de sa gouvernance : un système en cascade avec en première ligne le robot conséquence de sa liberté d’action ; puis, le concepteur de la plateforme d’intelligence artificielle qui a réalisé la base d’expression de cette liberté ; puis, l’utilisateur en sa qualité de responsable des conditions et des modalités d’apprentissage des robots et ensuite le système classique : propriétaire – vendeur – fabricants. Dans domaine pénal, la prison peut correspondre à l’arrêt d’activité du robot.

La traçabilité du robot en question. Les personnes se déplacent de manière anonymes sauf cas particuliers : anonymat de l’identité; anonymat de la circulation. Il ne peut en être de même pour les personnes robots. Ils doivent décliner leur identité (numéro) et enregistrer leurs activités dans une boîte noire contenant les marqueurs de leurs responsabilités.

Enfin la dignité du robot : oui « dignité du robot ». Regardez : il existe tant d’émotions lorsqu’un enfant autiste revient à la vie sociale avec le robot Nao ; il y a tant de joie partagée quand une personne âgée réapprend à sourire et parfois à rire en dialoguant avec le robot Nao; ce robot ne doit pas trahir ses amis humains. Par exemple, en termes de données personnelles, le robot s’interdit toute communication sans autorisation préalable exprès.

<< L’enjeu est la mise sur le marché de Robots Éthique by design. >>

Au terme de ce voyage, dans la tradition d’Isaac Asimov il est temps de définir un code de coopération entre les humains et les robots tels que :

Robot 1: Tu ne mettras pas en danger un humain ;

Robot 2: Tu n’obéiras pas à des humains te demandant de porter atteinte à d’autres humains ;

Robot 3: Tu agiras avec dignité ;

Robot 4: Tu seras responsable de tes actes ;

Robot 5: Tu conserveras la trace de tes actes ;

Robot 6 : Bienvenue chez les humains.

À Bientôt dans une salle d’audience.

Alain Bensoussan
Alain BensoussanAvocat à la cour d'appel de Paris
Avocat à la Cour d’appel de Paris, précurseur du droit des technologies avancées, Alain Bensoussan a fait de l’élaboration de concepts nouveaux l’une de ses marques de fabrique : domicile virtuel, droits de l’homme numérique, vie privée résiduelle, etc. En 2012, après avoir créé Lexing®, premier réseau international qui fédère des avocats en droit du numérique et des technologies avancées, il lance au sein de son cabinet un département sur le droit des technologies robotiques, y voyant « la reconnaissance par le droit d’une mutation technologique au moins aussi importante que l’ont été l’informatique et les réseaux sociaux au 20e siècle ». Aux yeux de cet infatigable explorateur de nouveaux domaines du monde numérique, il était temps de créer un droit des robots les dotant d’une personnalité et d’une identité juridique pour en faire, demain, des sujets de droit : « Avec l’introduction d’une intelligence artificielle, les robots ne sont pas de simples automates. Ils ont des capacités grandissantes qui les amènent à collaborer avec les hommes ». Alain Bensoussan est également président et fondateur de l’Association du droit des robots (ADDR).