Actualités
319 - Conférence du 19 juin 2023 : Chatbot et IA : enjeux éthiques
Conférence donnée par Laurence Devillers le 19/06/2023
Laurence Devillers est Professeur en Intelligence Artificielle à Sorbonne Université, responsable de la chaire HUMAAINE : HUman-MAchine Affective Interaction & Ethics au CNRS - LISN (laboratoire Interdisciplinaire des Sciences du Numérique, Paris-Saclay), elle est spécialiste des interactions affectives humain machine. Elle est membre du "Comité National Pilote Ethique du Numérique" (CNPEN) et de l'AFNOR sur la standardisation de l'IA.
La conférence de Laurence Devillers traite successivement des principes de l’intelligence artificielle, des enjeux géopolitiques et industriels associés, et enfin des enjeux éthiques.
L’intelligence artificielle traite de la simulation des capacités cognitives pour la perception, la décision, et la génération de textes, d’images ou de vidéos, de situations, etc. Elle utilise désormais largement les réseaux de neurones, particulièrement développés dans les années 80, pour discriminer des formes, puis générer de nouvelles données. Elle produit des modèles de réseaux, entraînés sur un gros volume de données (généralement en utilisant l'apprentissage auto-supervisé à grande échelle sur des données non annotées) qui peuvent être adaptés (par exemple, affinés) pour un large éventail de tâches, en aval.
On a ainsi réalisé des générateurs de textes à partir de milliards de textes : c’est une technologie de conversation révolutionnaire – la machine n’a pourtant ni corps, ni esprit, ni appétit de vie : elle imite…
Il serait bon de démystifier, par exemple, les outils comme Chat GPT – quelles données, quels algorithmes, quels paramètres de ces algorithmes (hyperparamètres : nombre de couches, dose d’aléatoire dans la génération des sorties, etc.). On observe en effet différents types d’hallucinations : faussetés aléatoires à consonance plausible dans les contenus générés, - mais aussi une capacité à manipuler l’humain par la machine (nudge), et la création de toutes pièces d’informations ou de références fausses…
Les préconisations du Comité National d’Ethique sont enfin rapidement parcourues : Véracité, watermarking, multilinguisme, etc.
Ce parcours riche d’un domaine en pleine transformation, qui impacte toutes les activités humaines, déclenche évidemment un certain nombre de questions :
- Importance de l’imitation dans l’apprentissage humain comme dans celui des machines ?
- Accès libre à BLOOM ?
- Nos réactions face à ces outils, et comment cela est traité dans l’IA Act européen ?
- Quels mécanismes sont imaginés pour prédire des effets catastrophiques, quel serait le scenario d’une telle catastrophe ?
- Quid des droits d’auteur ?
- Fondation Blaise Pascal pour la médiation culturelle.
En conclusion, Laurence Devillers souligne la possibilité de rejoindre la Fondation Blaise Pascal, pour bien éduquer les enfants :
voir en particulier sur le site web la « capsule éthique du numérique pour les enfants »
Réservé aux adhérents à jour de leur cotisation pour en savoir plus...
