Pourquoi l’éthique devrait-elle être un prérequis à tout projet couplant IoT et vivant ?

« A l’ère d’internet, et de ses objets connectés, la technologie est omnisciente, omnipotente et omniprésente... »

Exergue de Jacques Arnould, expert éthique au CNES

Vers de nouvelles catégories d’humains ?

Du point de vue de l’éthique, l’émergence de projets faisant appel à des objets connectés, implantés ou même seulement utilisés sur des animaux et des humains, pose question. S’il reste illusoire de répondre ici à toutes les interrogations suscitées par cette vague technologique, l’objectif de ces premiers travaux « Les IoT et le(s) vivant(s) » consiste dans un premier temps à poser des bases de réflexion, ou a minima à alerter sur les risques de dérives, en particulier, celui de faire émerger de nouvelles catégories d’êtres : l’humain augmenté (++), l’humain bricolé, l’humain de base… La même dérive est possible avec les animaux. L’animal « hyperproductif » - surveillé, tracé voire boosté grâce aux implants IoT - pourrait se banaliser. Si sur l’humain les implants ne sont pas déployés à large échelle et systématiquement, les objets connectés, smartphones et caméras en premier lieu, servent déjà de socle technologique à des pouvoirs totalitaires (la notation sociale chinoise est par exemple déjà réalité).

1984, version IoT ?

L’étape suivante, une banalisation des implants sur le vivant demeure aujourd’hui une hypothèse que l’on aimerait renvoyer à des scénarios d’anticipation. Mais qui trouve pourtant un écho très concret notamment avec le courant transhumaniste. Illustration emblématique, le projet Neurolink d’Elon Musk vise à implanter des puces dans le cerveau, des interfaces neuronales destinées dans un premier temps à des personnes atteintes d’handicaps et pouvant être généralisées par la suite en tant qu’interfaces cerveau / machine. En 2021, Elon Musk a annoncé que Neuralink espérait commencer les essais sur l'Homme dès 2022*. De ce que l’on en sait, les premiers résultats sont loin d’être probants. Le Physicians Committee for Responsible Medicine (PCRM), qui regroupe 17 000 médecins aux États-Unis, a porté plainte contre l’université de Californie, campus de Davis, pour maltraitance animale. Selon cette association, la plupart des macaques sur lesquels ont été implantés des implants pour Neuralink sont morts ou gravement malades. Au-delà de cette procédure, nombre de scientifiques questionnent l’aspect expérimental de la démarche. Moins médiatisés, d’autres acteurs travaillent sur les mêmes approches. La start-up française Axsoft promeut pour sa part, un implant « mou », censé être l’équivalent du « pacemaker » pour le cerveau. Là encore, les utilisations thérapeutiques, mieux prendre en charge les patients atteints d’Alzheimer …, sont mises en avant mais les enjeux commerciaux colossaux peuvent pousser à aller plus (trop ?) loin.

Hors domaine commercial, d’autres expérimentations sont en cours notamment avec le « soldat augmenté ». Si la doctrine du comité français éthique de la défense exclut pour l’instant tout recours à des techniques invasives, donc des implants, le sujet fait l’objet d’une attention particulière. Aux États-Unis, le Dr Joel Mozer** a déclaré qu’il était « impératif » que son pays surpasse ses adversaires en étant à la pointe de l' « augmentation humaine » dans la technologie militaire. Dans un registre plus prosaïque, des applications à base d’objets connectés et « embarqués » dans le vivant sont déjà réalité et intégrés dans le quotidien avec des objectifs certes moins ambitieux mais toutefois « à risque », on pense à la prise de contrôle par un hacker de pacemaker communiquant***.

Pourquoi cet emballement ?

Comme l’évoque le titre de l’ouvrage de Jacques Arnould, « Quand les hommes se prennent pour des dieux », une question de fond se pose : pourquoi cette fascination pour la technique ? Si celle-ci remonte à des millénaires, voire aux origines de l’humanité, elle prend aujourd’hui une telle place dans le quotidien qu’elle peut être perçue comme disposant des attributs du divin. A l’ère d’internet, et de ses objets, elle est omnisciente : Google et les réseaux sociaux ont réponse à tout ; elle est omnipotente : les machines battent les meilleurs joueurs d’échec ; elle est omniprésente : le réseau vous suit dans les montagnes, dans l’espace, dans l’intime…. Et elle est même supra-humaine :  elle « augmente » les sens avec la réalité augmentée entre autres… Dernière étape, certainement la plus sensible, déclinée sous la forme d’IoT couplés à des algorithmes d’Intelligence Artificielle -IA-, la technologie prend des décisions en lieu et place de l’humain. Une IA décide que vous n’aurez pas votre crédit, une autre (ou la même ?) décide de l’assiette d’un Boeing 737 Max….

Qu’apporterait l’augmentation de l’humain ?

Le glissement progressif d’une technologie d’abord outil, puis assistant de l’homme, et enfin le remplaçant dans ses décisions et ses actions se poursuit puis s’accélère. Et ce, sans que la question fondamentale de la motivation soit explicitement exprimée et débattue. Des réponses sont bien sûr proposées par ses prosélytes pour diverses raisons, pas exclusivement mercantiles mais plutôt liées à une forme de religiosité pour le progrès et pour sa forme concrète/palpable, la technologie. Selon la définition de l’Unesco, ce qui caractérise le vivant est d’être adaptatif et évolutif. L’IA basant ses analyses sur une partie du passé, réduite à une représentation numérique parcellaire du réel et embarquée dans la machine pourrait-elle s’adapter à ce vivant ? Peut-on imaginer des technologies auto-adaptatives ? Difficile à imaginer. Exemple parmi d’autres, le véhicule autonome promis par beaucoup comme imminent est renvoyé à un futur plus lointain. Rien ne remplace le cerveau humain pour s’adapter au contexte d’un centre-ville. Et même si les algorithmes devenaient intelligents cette approche ne répond pas à une préoccupation éthique fondamentale. Jacques Arnould pose la question : « Qu’apporterait l’« augmentation » d’un humain basée sur un objet à la Noosphère, en d’autres mots à la sphère et peut-être encore plus à la communauté de la pensée humaine ? ».

Prendre en compte l’éthique dans tout projet liant IoT et vivant

Ces questions sont complexes et ô combien actuelles, et il semble important et urgent de les prendre en compte. Comment ? Outre la réflexion et le débat, s’obliger à répondre à quelques questions avant de lancer tout projet IoT & vivant, notamment :

  • En évaluant et en explicitant au grand jour les motivations sous-jacentes de chaque projet
  • En appréhendant ce qu’il transforme comme activité humaine ou animale, notamment sur le plan de l’automatisation et en évaluant les impacts
  • En quantifiant et qualifiant les risques découlant d’une délégation des décisions à la machine (perte de libre arbitre…)
  • En décrivant le risque de dérive arbitraire sur le plan politique dans une démocratie

Ces préoccupations trouvent naturellement un écho au niveau juridique. Le parlement européen a adopté ce 4 mai 2022 un rapport sur l’Intelligence Artificielle. Ces aspects feront l’objet de travaux à suivre.

Patrick Brébion et Alexandre Diehl (co-animateurs du Comité de Travail 1 du GR-IoT)

Naissance du Groupe de Réflexion IoT

"Quel monde connecté voulons-nous ? Et quelles seraient les bonnes pratiques pour éviter les écueils ? ’’ Au moment où la digitalisation est partout, où se créent des univers virtuels et où les objets connectés (IoT) s’inscrivent dans de nombreux cas d’usage et de territoires – les bâtiments, la ville, les domiciles, la santé, l’agriculture et l’élevage, les biens et appareils les plus courants mais aussi les véhicules, les équipements de contrôle, les sites industriels et les outils professionnels les plus sophistiqués – il est opportun de se poser ces questions !

Logo Groupe de Réflexion IoT (tm)

Avec les objets connectés, et les services inédits qu’ils peuvent apporter, on peut faire le (monde) meilleur ; mais on peut tout aussi bien faire le pire ! Puissants, rapides, « intelligents », multisensoriels, ultra-communicants, actifs, robustes, silencieux voire discrets, autonomes… à large échelle ces IoT commencent à « tramer » notre société ; ils contrôlent et mesurent, ils captent et alertent, ils « savent », « entendent » et « prévoient » ce qu’il s’y passe en temps réel et « prédisent » ce qu’il va s’y passer.

Ces objets, réseaux d’objets et services connectés peuvent aussi bien contribuer à la chaîne de valeur de nos entreprises et de notre société qu’à leur perte si une réflexion amont n’intègre pas leurs potentiels points faibles : citons la cybersécurité ; le traitement et la protection des données ; le manque de méthodologies éprouvées de conception et de production ; le retard dans les règlementations et les contrôles ; la primo-dépendance aux composants électroniques ; le grand défi de former, puis d’embaucher des compétences IoT à la fois larges et spécialisées, indispensables à faire exister et à exploiter avec maîtrise ces réseaux et objets connectés…

C’est bien en France et maintenant, alors que les objets connectés ont le vent en poupe et connaissent une très forte croissance dans tous les secteurs d’activités BtoB et BtoC, qu’il faut réfléchir, susciter, dialoguer voire conseiller avec neutralité et bon sens autour de leurs conception, mise en œuvre et exploitation dans une optique de respect éthique des usages, d’exigence sécuritaire, d’excellence des RH et d’éco-responsabilité. Ce Groupe de Réflexion sur les IoT s’en donne la mission.

Se renseigner plus avant, prendre contact : cliquez ici