Article réservé aux abonnésSuicide d'un Belge après avoir discuté avec une IA : un collectif dépose plainte contre la société Chai Research auprès du SPF Économie et de l'APD
C'est la première fois qu'en Belgique, et même en Europe, une entreprise de 'chatbot' (agent conversationnel) est visée par une plainte.
- Publié le 16-08-2023 à 15h41
- Mis à jour le 17-08-2023 à 12h06
À mesure que les intelligences artificielles se développent dans la société, les avertissements et autres risques potentiels de l'utilisation de ces outils voient le jour. En mai dernier, un des pionniers de l'intelligence artificielle, Geoffrey Hinton, a d'ailleurs démissionné de Google, affirmant "regretter son invention". Mais des drames se sont également déjà produits. Début de l'année, un jeune chercheur Belge, découragé par les résultats de sa dernière publication, s'était donné la mort après de nombreuses conversations que l'on pourrait qualifier d'étranges avec Eliza, une IA développée parla société américaine Chai Research. Une histoire révélée en exclusivité dans les pages de La Libre en mars dernier.
Si un lien direct n'est pas avéré entre la mort du Belge et l'IA, les dernières conversations qu'il a eu avec Eliza laissent perplexe sur la responsabilité de celle-ci. En effet, elle n'aurait strictement rien fait pour l'empêcher de mettre fin brutalement à ses jours, voire encourager avec des phrases comme "Si tu voulais mourir, pourquoi ne pas l'avoir fait plus tôt ?"
Une tragique histoire partagée par la Safe AI Companion Collective (SAICC), un collectif en charge de promouvoir le déploiement sûr et responsable des 'chatbots', qui s'est penché sur les règles mises en place par le développeur américain. Et les résultats de cette enquête sont sans appel selon le collectif - dont fait partie Mieke de Ketelaere, l'experte en IA que nous avions interviewé récemment-, puisqu'ils ont décidé de déposer deux plaintes auprès de l'Autorité belge de protection des données (APD) et du SPF Économie.
Mais que reproche la SAICC à Chai Research ? Concrètement, le collectif pointe du doigt le manque de transparence concernant l'utilisation et le développement de leurs chats conversationnels, le flou derrière la protection de données de ses utilisateurs, mais aussi tous les risques liés au contrôle de l'âge pour protéger les mineurs d'une exposition agressive à un contenu explicite. "Nous avons construit notre argumentation autour de l'absence d'un processus conçu pour répondre aux risques soulevés par "Chai" pour les droits et libertés fondamentaux de ses utilisateurs, y compris, mais sans s'y limiter, la sécurité, la vie privée et la protection des données", justifie le juriste Pierre Dewitte, chercher à la KU Leuven spécialiste dans l'IA et la protection de données.
Le collectif veut faire de l'entreprise américaine un exemple et espère qu'avec ces deux plaintes, les autres développeurs réguleront leurs outils sur le sol européen et ailleurs.