Face à l'IA : l'impuissance de l'éthique, la puissance du Droit

L'alerte confirmée par d'autres analyses et par certains scandales comme l'affaire Cambridge Analytica, devrait conduire à la plus large mobilisation des ressources de la justice et du Droit, tant par les gouvernants que par les citoyens. C'est d'ailleurs un des remèdes suggérés par l'autrice.

Les entrepreneurs de l'IA revendiquent pourtant la capacité à s'autoréguler en recourant aux vertus supposées de l'éthique, entretenant au passage un véritable marché "éthicien" dont les protagonistes prétendent "accompagner" – moralement en somme – l'algorithmisation du monde et des humains. Ce faisant, ils occultent le fait que lorsqu'elle est détachée du cadre de l'État de droit et de la hiérarchie des normes qui lui est consubstantielle, l'éthique est incapable de jouer le rôle que seul le Droit assume dans les sociétés humaines : celui d'hétéronomie ou de "surplomb", habile à contraindre chaque secteur ou individu malgré ou contre ses propres standards. Sans les armes du Droit, comment pourrait-elle en effet combattre l'emprise technologique décrite qui emporte une déshumanisation aussi industrialisée qu'inédite, à un rythme qui dépasse l'entendement humain ?

Malgré la promotion qui en est faite par le marché et les réseaux sociaux, "l'accompagnement" vanté masque donc mal une entreprise connivente, consciente ou instrumentalisée, de validation des prétentions des BigTech à maintenir les velléités normatives des pouvoirs publics à bonne distance de leurs intérêts.

Face à ces constats, il est donc urgent que le fondement "dogmatique" et la fonction "anthropologique" de la justice et du Droit (2) soient investis le plus largement. Fondement "dogmatique" au regard de leur pouvoir à signifier au collectif ce qui doit être et ce qui est interdit, en s'appuyant sur des normes supérieures identifiées comme les plus justes et les mieux à même de garantir la cohésion sociale souvent pour des raisons historiques, ainsi la Convention européenne des droits de l'homme signée dans un contexte de refondation, précisément par le Droit et la morale, de la civilisation européenne. Fonction "anthropologique" dès lors que par leur fondement dogmatique, le Droit et la justice assurent la possibilité et la pérennité d'un collectif contraint par des normes qui lui sont extérieures tout en permettant à chaque individu de se forger un destin qui lui soit propre.

Puissance du Droit donc, mobilisée d'abord par les gouvernants comme cela a été le cas en Europe lors de l'adoption du RGPD et de l'IA Act. Sans doute imparfaitement mais en consacrant, symboliquement, contre les revendications des lobbys, le principe d'un Droit qui reprend la main en interdisant par exemple la notation sociale.

Les gouvernants doivent aller plus loin, comme ils l'ont fait dans d'autres domaines où les droits fondamentaux étaient en jeu. Ainsi face à la colonisation de nos destins par l'algorithme mais face aussi au possible mésusage des technologies par les autocraties à venir, les constituants démocrates ne doivent-ils pas urgemment consacrer au profit de chaque citoyen un droit fondamental au respect de ses capacités cognitives et de son libre arbitre, dès son plus son jeune âge, contre les manipulations qui sont identifiées ? S'agissant d'un droit fondamental à l'intégrité mentale déduit de la conjugaison de droits consacrés de longue date – à la santé, à la protection d'un environnement sain, au respect de la vie privée ou encore à la dignité humaine – les États seraient alors requis d'en garantir l'effectivité en termes de qualité de l'enseignement, d'éducation à la santé y compris mentale et de la culture, grâce à des services publics nécessairement rééquipés matériellement et intellectuellement en proportion des enjeux décrits.

Et pourquoi n'inscriraient-ils pas également dans la Constitution, comme le propose Élise Degrave, un droit pour chacun à ne pas utiliser internet et à revendiquer le maintien de services publics "incarnés", soit assurés par des humains au service des humains (3) ? Ou encore ne définiraient-ils pas, comme le suggère Célia Zolynski, un droit au profit de l'utilisateur des plateformes "au paramétrage de ses automatismes", c'est-à-dire du degré de notification et des contours de la sphère d'émission des contenus qu'il publie ou encore de sa "sphère de réception", soit ce qui lui sera adressé comme contenus recommandés ? Tant il est vrai que "déployer une technologie paramétrable par l'utilisateur n'est pas la même chose que déployer une boîte noire qui est à prendre ou à laisser" (4). Et dans la foulée, comme en toute matière qui regarde des questions sanitaires, pourquoi ne pas oser interdire l'utilisation des écrans avant l'âge de trois ans, celle des téléphones connectés à internet avant 13 ans ou des réseaux sociaux avant 15 ans, comme les invitent certains spécialistes de la santé mentale ?

La puissance du Droit peut ensuite être investie par les citoyens devant les juridictions nationales et internationales comme c'est le cas en matière de justice climatique en y revendiquant le respect dû aux mêmes droits fondamentaux. La ligne à suivre face à l'IA convoque tout autant la notion de dignité humaine qu'une forme d'écologie de nos états d'esprit individuels et sociaux, voire la survie d'une certaine idée de l'humanité. C'est dans ce cadre qu'interrogée par un tribunal allemand devant lequel des citoyens contestaient la conservation de leurs données par une agence privée qui les qualifiait insolvables en les renseignant à des organismes de crédit, la Cour de justice européenne a décidé, le 7 décembre 2023 que lescoring, qui prétend prédire la probabilité d'un comportement futur comme le remboursement d'un crédit ou une fraude sociale, est contraire au RGPD.

Ni le Droit ni la justice ne sont figés ou monolithiques. Connectés à l'histoire et aux droits fondamentaux, les outils qu'ils offrent peuvent être continuellement aiguisés et combinés. Ils sont "à disposition" tant des citoyens que des gouvernants qui cherchent avec courage et ingéniosité à garantir la possibilité et la pérennité d'une cohésion sociale conforme tant aux standards démocratiques qu'à l'État de droit, notions parfaitement indissociables du respect de l'intégrité mentale de chaque citoyen.

Notes et références :

1 Seuil, 2024.

2 Selon les mots du Professeur Alain Supiot.

3 Elise Degrave, Le Soir, "Inscrivons dans la Constitution le droit de ne pas utiliser internet".

4 Pour une nouvelle culture de l'attention – Que faire de ces réseaux sociaux qui nous épuisent ?, Odile Jacob, 2024.