Éthique et responsabilité de l’IA : transparence et explicabilité de l’intelligence artificielle

Name: Éthique et responsabilité de l’IA : transparence et explicabilité de l’intelligence artificielle
Author: Briana Brownell

En savoir plus sur les principes liés à la transparence et à l'explicabilité des systèmes d'IA

Preview the first lesson free — get full access to all 5 lessons.

Demander une démo Se connecter

Cours : à la demande

(musique douce) Quand on pense à la transparence comme principe de construction d'un système d'IA, la plupart d'entre nous ont déjà une idée de ce que cela signifie. La transparence permet un contrôle. C'est parce qu'un système transparent peut être examiné grâce à sa transparence. Ainsi, le principe de transparence suggère que la surveillance d'un système d'IA devrait être possible. Il existe plusieurs façons dans lequel un système d'IA doit être transparent dans sa conception et sa mise en œuvre. En termes de conception, il devrait y avoir une divulgation complète autour de toutes les données utilisées pour former un modèle d'apprentissage automatique, y compris la manière dont les données ont été collectées, étapes de prétraitement, paramètres du modèle, et l'algorithme utilisé pour générer le modèle. La transparence s'applique également aux systèmes d'IA qui n'utilisent pas l'apprentissage automatique pour divulguer comment l'expertise ou les connaissances sont utilisées pour éclairer la conception du système de décision. Il est important de noter ce souci de transparence se concentre sur les actions du système ainsi que sur sa conception. Ces actions doivent être contrôlables. Il est tentant de penser à la transparence comme un attribut oui ou non du système d'IA. Soit le système est transparent, soit non. Mais en fait, il existe de nombreuses gradations entre parfaite transparence et opacité. La structure de décision d'un système peut être transparente quant à la façon dont la décision est prise, mais les données utilisées pour le générer peuvent ne pas être transparentes parce que les étapes de collecte et de traitement des données prises pourraient ne pas avoir été correctement divulguées. Considérez un système d'IA construit autour d'un arbre de décision. Les arbres de décision sont un outil supervisé courant. méthode d'apprentissage automatique qui génère essentiellement un organigramme basé sur les données de formation d'entrée. Une fois généré, un arbre de décision peut être complètement simple et facile à suivre, mais la justification de la base de données pourquoi l'arbre de décision a été créé de cette manière dépend entièrement des données utilisées pour produire le modèle en premier lieu. L'utilisation d'un ensemble de données incomplet ou biaisé pourrait alors générer des décisions totalement transparentes en ce qui concerne la façon dont le système prend des décisions, mais pas dans les raisons pour lesquelles et si ces décisions reflètent du paysage dans lequel ce système est déployé. Comparez cela avec un modèle d'apprentissage automatique formés sur un jeu de données standardisé comme l'Institut National Modifié of Standards and Technology, ou jeu de données MNIST. Cet ensemble de données contient des images de chiffres manuscrits utilisés pour la tâche d'apprentissage supervisé de reconnaissance de caractères, et il a été mis à disposition par des équipes de recherche universitaires. Les praticiens de l'IA peuvent utiliser leurs propres algorithme d'apprentissage automatique pour créer un supervisé modèle d'apprentissage automatique basé sur cet ensemble de données. En conséquence, de nombreuses méthodes différentes ont été utilisées pré-traiter ces données, et de nombreuses techniques de modélisation différentes ont été appliquées. Ainsi, la décision de classement pour une entrée spécifique et sa plage de précision largement. Alors maintenant, nous avons un exemple de cas dans lequel l'ensemble de données peut être complètement transparent mais la création du modèle peut ne pas l'être. Les praticiens pourraient commencer avec différentes techniques de prétraitement, utiliser des algorithmes différents, et sinon structurer leur processus de construction de modèle différemment. Ces décisions comptent toutes pour la transparence du système final. La transparence est importante dans la conception de tout système d'IA, mais c'est surtout important lorsque les décisions ont un impact important sur ceux qui utilisent le système. Tout cas où le résultat du système peut avoir un impact significatif sur les moyens de subsistance et l'opportunité de ceux qui en sont affectés devrait s'attendre à un haut degré de visibilité. Mais même si nous voudrions peut-être s'y attendre en tant que consommateurs et utilisateurs de ces systèmes, historiquement, la transparence n'a pas été la norme. Des systèmes comme l'évaluation du crédit et ceux qui tentent de prédire la probabilité du comportement récidivant ou criminel d'une personne sont rarement transparentes. Dans certains cas, ils sont délibérément opaques. Dans un contexte commercial, la transparence pourrait aller à l'encontre d'autres valeurs y compris la conservation des secrets commerciaux et de la propriété intellectuelle. Les entreprises peuvent ne pas souhaiter partager leur sauce secrète avec des étrangers ou même au sein de l'entreprise elle-même. En fin de compte, il doit y avoir un équilibre entre les attentes de transparence et l'impact d'un système.

Intermédiaire Fournisseur : Briana Brownell 5 leçons · 14m en Arabe, Allemand, Anglais, Espagnol, Français, Portugais, Chinese

Description du cours

Dans ces leçons sur la transparence et l'explicabilité dans l'intelligence artificielle, vous en apprendrez davantage sur l'explicabilité et l'interprétabilité et leur intersection avec les concepts de boîte noire et d'IA de boîte de verre. Vous passerez en revue les avantages et les inconvénients des logiciels open source dans le développement d'un système d'IA. Vous apprendrez également les principes de notification de la décision et de l'interaction, et leur importance avec les systèmes qui utilisent le langage naturel ou la reconnaissance faciale.

Le principe de transparence suggère qu'un contrôle efficace des systèmes d'IA devrait être possible. Ces leçons développeront votre compréhension du concept de transparence dans les systèmes décisionnels, y compris les différents niveaux d'opacité, les concepts clés autour de la transparence, y compris l'explicabilité, l'interprétabilité, la boîte noire et l'IA de boîte de verre utilisant des systèmes humains en boucle.

L'explicabilité est l'un des principes de l'éthique de l'IA. L'explicabilité est un facteur clé qui permet aux humains d'analyser le fonctionnement d'un système d'IA. Cette section vous présentera les concepts de boîte noire et d'IA boîte de verre, et comment ces modèles peuvent être utilisés pour analyser et expliquer la prise de décision en matière d'IA. Vous aurez également un aperçu de la façon dont un modèle de boîte noire est utilisé dans le contexte de l'interprétabilité.

Vous passerez en revue les concepts de transparence, de vérification des erreurs, de démocratisation et d'accès dans le cadre des logiciels libres « open source ». Ensuite, vous découvrirez les principes de notification de la décision et de l'interaction, et leur importance lors de l'interaction avec des systèmes utilisant le langage naturel, tels que les chatbots, ou la reconnaissance faciale utilisée en public.

Ce que vous allez apprendre

Décrire le principe de transparence et sa relation avec les systèmes de boîte noire (black box) et de boîte transparente (glass box)
Identifier pourquoi l'explicabilité (explainability) est importante en IA
Expliquer les avantages et les inconvénients des logiciels open-source dans le développement de l'IA
Distinguer l'explicabilité (explainability) de l'interprétabilité (interpretability) et leur intersection avec l'IA de boîte noire et de boîte transparente
Reconnaître les principes de notification de décision et d'interaction pour les systèmes utilisant le langage naturel ou la reconnaissance faciale
Examiner la transparence, la vérification des erreurs, la démocratisation et l'accès tels qu'ils se rapportent aux logiciels open-source

Points clés à retenir

Le principe de transparence suggère qu'une surveillance efficace des systèmes d'IA devrait être possible.
L'explicabilité est l'un des principes de l'éthique de l'IA et est un facteur clé qui permet aux humains d'analyser le fonctionnement d'un système d'IA.
La transparence dans les systèmes de décision implique différents niveaux d'opacité et des concepts clés tels que l'explicabilité, l'interprétabilité et l'IA en boîte noire (black box) et en boîte de verre (glass box) utilisant des systèmes impliquant une intervention humaine (human-in-the-loop).
Les modèles boîte noire et boîte de verre peuvent être utilisés pour analyser et expliquer la prise de décision de l'IA, et un modèle de boîte noire est utilisé dans le contexte de l'interprétabilité.
La notification de décision et l'interaction ont de l'importance lors de l'interaction avec des systèmes utilisant le langage naturel, tels que les chatbots, ou la reconnaissance faciale utilisée en public.

Foire aux questions

Quels sujets ce cours couvre-t-il ?

Il couvre la transparence et l'explicabilité de l'IA, y compris l'explicabilité et l'interprétabilité, l'IA en boîte noire (black box) et l'IA en boîte de verre (glass box), les avantages et les inconvénients des logiciels libres (open-source), et les principes de notification de la décision et de l'interaction.

Que vais-je apprendre sur les logiciels open source dans ce cours ?

Vous passerez en revue les avantages et les inconvénients des logiciels open-source dans le développement d'un système d'IA, y compris les concepts de transparence, de vérification des erreurs, de démocratisation et d'accès, tels qu'ils s'appliquent chacun aux logiciels open-source.

Comment le cours aborde-t-il les systèmes de langage naturel et de reconnaissance faciale ?

Il couvre les principes de notification de décision et d'interaction et leur importance lors de l'interaction avec des systèmes utilisant le langage naturel, tels que les chatbots, ou la reconnaissance faciale utilisée en public.

Quelles leçons sont incluses dans ce cours ?

Les leçons sont : Transparence et Surveillance ; Explicabilité et Interprétabilité ; Responsabilité dans les Boîtes Noires et les Boîtes de Verre ; Open Source et la Valeur des Algorithmes Communs ; et Notification de Décision et d'Interaction.

Quelles compétences ce cours aide-t-il à développer ?

Il développe des compétences en systèmes d'intelligence artificielle, intelligence artificielle, développement de l'intelligence artificielle, IA explicable (XAI) et transparence dans l'interaction humain-machine.