"L'interjection 'Bonjour ChatGPT' est devenue le symptôme d'une société où les individus s'isolent de plus en plus"

Avant d'en faire un livre, vous aviez rédigé une chronique dans La Libre, il y a un an, dont le titre était "Faut-il dire bonjour à ChatGPT ?". La forme interrogative a désormais disparu. Vous avez trouvé la réponse à la question que vous vous posiez ?

C'est plus compliqué que ça. Je suis philosophe et, par principe, mon rôle est davantage de poser des questions que d'y répondre. Ce que j'ai découvert au cours de mes recherches, c'est que la question "Faut-il dire bonjour à ChatGPT ?", on s'en fout un peu, pour le dire platement. Ce n'est pas la vraie question. Pour une raison simple : l'anthropomorphisme existe depuis 40 000 ans ! C'est un réflexe humain, tout à fait normal et très répandu, que de s'adresser à une machine comme si on s'adressait à un être humain. Ce qui m'intéresse davantage, c'est pourquoi on dit bonjour à ChatGPT et pas à sa machine à café, par exemple, et, dans la foulée, qu'est-ce que cela dit de nous et de notre rapport aux autres. Vous aurez aussi remarqué que "Bonjour ChatGPT" a été volontairement mis entre guillemets. Ce qui m'intéresse, c'est l'interjection. C'est du même ordre que "Dis Siri" ou "OK Google". Au-delà de ChatGPT, ce livre parle de tous les agents conversationnels.

Vous faites mention, dans les premières pages du livre, de deux anecdotes, l'une amusante et l'autre dramatique. D'un côté, il y a May Ashworth, grand-mère britannique de 86 ans qui, s'adressant au moteur de recherche de Google avait écrit "S'il vous plaît, pourriez-vous me traduire ce nombre romain MCMXCVIII, merci". De l'autre côté, il y a l'histoire de Pierre, jeune Belge qui s'est donné la mort après un dialogue de plusieurs semaines avec Eliza, qui est un chatbot utilisant la même technologie que ChatGPT. Que nous disent ces deux histoires sur le rapport que l'on peut avoir avec des agents conversationnels?

La première histoire, qui remonte à 2016, est une façon de montrer à quel point le monde a changé en moins de dix ans. À l'époque, tout le monde s'était moqué de May Ashworth. Huit ans plus tard, tout le monde se comporte comme elle. Notre état d'esprit a changé de façon très rapide et radicale. Mais on se rend aussi compte, à travers le drame de Pierre avec le chatbot Eliza, que ces agents conversationnels peuvent également avoir un impact terrible. Cela n'est pas arrivé pas aux États-Unis ou au Japon, mais chez nous. Derrière le "Bonjour ChatGPT", il y a des histoires marrantes, des histoires positives, mais aussi des drames.

Vous faites de nombreuses références à la fiction (le film "Her" et la série "Black Mirror", en particulier). C'est pour mieux montrer que la frontière avec le réel est devenue extrêmement ténue et floue ? Les agents conversationnels, écrivez-vous aussi, nous permettent de "converser dans une bulle ouatée, sans danger, sans rencontre". ChatGPT nous permet de fuir le réel?

Ces références ont un triple objectif. Le premier est un moyen de faire rentrer le lecteur dans le sujet du livre. La fiction permet souvent de mieux s'approprier un sujet. Le deuxième objectif tient à ma conviction que tout le monde peut faire de la philosophie, sans devoir forcément lire Kant, Nietzsche ou Levinas. On peut regarder Matrix et se poser plein de questions philosophiques. Le troisième objectif est, effectivement, de montrer que les frontières sont de plus en plus floues et ténues. D'une certaine manière, on ne peut plus se dire : "ce n'est jamais que de la fiction".

La question du rapport de l'être humain à la technique, à la machine, n'est pas neuve. En quoi l'intelligence artificielle et ChatGPT constituent une rupture dans ce rapport?

Ce qui change tout, c'est le langage naturel (1), c'est-à-dire le langage qui nous connecte aux êtres humains. Il y a un raccourci, extrêmement rapide, qui se crée dans le cerveau humain : dès lors que cela parle, c'est que c'est humain. C'est une des raisons pour lesquelles on anthropomorphise la machine. Mais, outre le langage, la révolution ChatGPT réside aussi dans la facilité d'accès. Il ne faut plus être ingénieur pour accéder et utiliser l'IA. En très peu de temps, des centaines de millions de personnes ont pu expérimenter l'IA pour la première fois. Un tel changement d'échelle conduit forcément à un changement de nature dans la relation homme-machine.

C'est ce qui rend d'autant plus urgent de se pencher sur ChatGPT et tous les autres agents conversationnels et de s'interroger sur leur impact, positif comme négatif?

Tout à fait. Les questions et les enjeux soulevés par l'IA générative touchent tout le monde. Le phénomène est mondial. Mon souhait est que tout le monde s'en préoccupe et que le sujet ne soit pas géré uniquement par une élite d'hommes blancs, transhumanistes, vivant dans la Silicon Valley.

L'agent conversationnel devient un interlocuteur de l'être humain. On en vient donc à discuter avec des lignes de code… Ce que certains tendent à oublier ou ignorer.

En tout cas, on se laisse assoupir. C'est ce qui m'inquiète. Le fait d'envoyer un document PDF de 200 pages à ChatGPT pour lui demander de sortir les trois grandes conclusions, c'est génial. C'est d'ailleurs à cela que ça sert. Là où je m'inquiète, c'est quand des gens entretiennent des dialogues de longue durée avec un chatbot ou quand ils dialoguent avec des deadbots (agents conversationnels qui permettent de dialoguer avec des personnes décédées en imitant leurs réponses, NdlR). Là, cela devient terrible. Sherry Turkle, sociologue de la technologie du MIT, a mené des interviews où des gens expliquaient que s'ils pouvaient échanger juste avec un chatbot, c'est-à-dire d'avoir des amis sans les inconvénients des amis, ça leur suffirait. On est dans une conversation, un échange, où on veut tout modérer, tout contrôler. Et, dans ce cadre, dire "Bonjour ChatGPT" est un symptôme.

De quoi?

D'une société où les individus s'isolent de plus en plus. Sherry Turkle a une très belle expression pour qualifier ce symptôme : "alone together". On est connecté à 1000 ou 5000 personnes sur les réseaux sociaux, mais on ne les connaît pas. C'est le symptôme de personnes qui ont tellement peur d'être vulnérables, d'accepter de se montrer vulnérables à autrui, qu'elles en viennent à couper toute possibilité d'être blessées et préfèrent dialoguer avec un robot qui, lui, n'est jamais fatigué, ne nous contredit jamais, n'est jamais malade, ne va jamais vous insulter, sera toujours disponible..

C'est ce que recherche l'être humain en 2024?

Je ne l'espère pas, en tout cas. En revanche, je pense qu'au-dessus de notre humanité, une nouvelle couche s'est créée. Et c'est là qu'on cherche à ne pas être blessé, contredit, etc. D'où la question, à la fin du livre, de savoir s'il n'y a pas d'autres façons d'être au monde. Mon propos n'est pas de dire que, demain, tout le monde doit arrêter d'utiliser ChatGPT. Par contre, après avoir lu le livre, j'aimerais que les gens le prennent et invitent un ou une amie, dans un café, pour en parler les yeux dans les yeux.

L'IA générative déferle sur le monde, comme un rouleau compresseur. Faut-il y résister? Et comment?

Bien sûr ! C'est même capital. Je parle notamment de sobriété et de décroissance technologique. La tech, c'est super, mais ça ne veut pas dire que tout est super avec de la tech. On peut être technophile sans dire que tout est mieux avec la tech. On peut être techno-optimiste, ce que je suis, sans se dire que tout va être mieux avec de la tech. On doit être capable, à titre très individuel, de faire un effort de résistance.

Et quel est le risque si on ne résiste pas?

Mon cauchemar absolu, c'est Wall-E. C'est un film d'animation, sorti en 2008, dans lequel la Terre est devenue inhabitable et les êtres humains vivent dans un gigantesque vaisseau. Chaque être humain, devenu complètement obèse, se trouve dans une sorte de fauteuil volant. Ils ne font que manger et boire, entouré d'écrans et ayant oublié le rapport à autrui. Rien n'exclut qu'on en arrive là…

Des centaines de chercheurs et de personnalités de la tech (Yoshua Bengio, Steve Wozniak, Yuval Noah Harari, Elon Musk…) avaient lancé un appel, il y a juste un an, demandant aux laboratoires d'IA générative d'interrompre leurs travaux pour une période de six mois.

Cet appel à un moratoire était un sketch ! Ce n'est ni une solution crédible ni praticable. Dans l'hypothèse où certains accepteraient effectivement d'arrêter, d'autres, en Chine ou ailleurs, ne s'arrêteront pas. En revanche, il faut encadrer ces développements. Je crois beaucoup dans la régulation et, à cet égard, l'AI Act adopté mi-mars par le Parlement européen est une très bonne chose. Est-il parfait ? Non, sûrement pas, comme le RGPD ne l'était pas lors de son adoption en 2016. Ces régulations ont le mérite d'exister et j'espère qu'elles seront améliorées au fil du temps.

Certains disent que trop réguler, c'est étouffer l'innovation…

Je ne crois pas du tout à ça. C'est une très mauvaise compréhension de ce qu'est l'innovation. L'innovation, c'est créer sous contrainte. Et la première des contraintes, c'est celle du réel. Dans le cas de l'IA, il s'agit simplement de s'assurer que les algorithmes et les agents conversationnels respectent les droits fondamentaux. C'est une question de bon sens et de responsabilité collective.

Parmi les pistes de réflexion, vous parlez de la nécessité de se réapproprier la technologie. De quelle façon?

La piste de l'éducation est celle qui met à peu près tout le monde d'accord. Je suis extrêmement partisan, en tout cas dans l'enseignement supérieur, d'introduire un cours de philo et un cours de tech pour tous les étudiants, sans exception.

Pour y réfléchir, notamment, à l'éthique des technologies?

Oui. Car la question des technologies n'est que très rarement de nature technologique. Elle est surtout économique, écologique, sociologique, psychologique, politique et, aussi, idéologique. Si, demain, grâce à l'IA générative, vous pouvez réduire votre département de comptabilité par deux, qu'est-ce que vous faites ? Est-ce que vous licenciez la moitié du département ? Est-ce que vous demandez à tout le monde de ne plus travailler que 18 heures par semaine ? Est-ce que vous décidez de mettre sur pied un programme de formation permettant aux personnes de faire autre chose ? Toutes ces questions ne sont en rien des questions techniques et algorithmiques.

Avez-vous le sentiment qu'aujourd'hui, le monde de l'entreprise et le monde politique prennent vraiment conscience de l'enjeu?

Non. Je pense que les choses changeront grâce aux entreprises. Mais, pour ça, il faut les aiguiller, comme on l'a fait, par exemple, avec les critères ESG (critères environnementaux, sociaux et de gouvernance). C'est pour cela que l'AI Act européen est une étape importante et que les États-Unis finiront par s'aligner sur ce type de régulation dans les cinq prochaines années, comme ils l'ont fait avec le RGPD. Diego Hidalgo, un ami, a rédigé un excellent manifeste sur cette question. Il y explique, notamment, que l'industrie pharmaceutique ou agroalimentaire est très régulée. Pour quelles raisons l'industrie de la tech devrait-elle passer entre les mailles du filet ? Il n'y en a aucune raison que l'industrie de la tech, au même titre que l'industrie pharmaceutique ou agroalimentaire, échappe aux mailles du filet régulatoire quand elle met quelque chose sur le marché. L'industrie doit réfléchir aux effets d'une innovation en amont, l'expérimenter, la tester… Or, c'est le contraire qui se passe. On lance des technologies, accessibles gratuitement, sans avoir réfléchi en amont à leurs impacts. Cela ne va pas.

Il y a une forme d'irresponsabilité dans cette façon de procéder?

Totalement. Pour moi, l'un des problèmes réside aussi dans le manque de diversité des équipes de recherche et de développement en IA. Le monde a un grand besoin d'ingénieur(e) s. Mais si on travaille qu'avec des ingénieurs, le plus souvent masculins, on aborde les choses avec des gens qui, grosso modo, pensent de la même façon. Les biais, dont on accuse à juste titre l'IA, viennent de là.

D'où votre plaidoyer pour constituer des équipes pluridisciplinaires?

Si ce n'est des équipes, au moins des institutions ou des comités, internes ou externes aux entreprises, qui supervisent ce qui est fait et dans lesquels on trouverait des managers, des ingénieurs, des ouvriers, des personnes de la société civile, des philosophes, des psys… Que l'on appelle cela comité d'éthique ou autrement, peu importe. Ce qui compte, c'est que ce soit pluridisciplinaire, représentatif de différents départements et intérêts, et que les avis donnés soient coercitifs. Cela relève de la responsabilité des entreprises.

Vous êtes papa de deux très jeunes enfants. Comment appréhendez-vous leurs premières interactions avec ChatGPT?

Honnêtement? Je flippe ! (rire) C'est très facile d'énoncer et d'avoir des principes, c'est très compliqué quand on y est confronté personnellement. Avec mon épouse, on fait déjà très attention à leur exposition aux écrans. Ce que j'espère surtout créer avec eux, ce sont des moments où on peut se parler les yeux dans les yeux. J'espère aussi que mes enfants auront des cours où on leur parlera de l'usage des écrans, de cyberharcèlement, d'esprit critique en ligne…

(1) Le langage naturel désigne le langage humain. Par opposition au langage naturel, on parle de langage formel pour désigner les systèmes d'écritures bien définis, comme les écritures mathématiques ou le code informatique.