Éthique et responsabilité de l’IA : incidents critiques liés à l’intelligence artificielle

Name: Éthique et responsabilité de l’IA : incidents critiques liés à l’intelligence artificielle
Author: Briana Brownell

Découvrez les conséquences négatives de l'IA à travers des études de cas spécifiques

Preview the first lesson free — get full access to all 3 lessons.

Demander une démo Se connecter

Cours : à la demande

Il y a eu de nombreux incidents où des systèmes d'intelligence artificielle ont été déployés avec des implications éthiques importantes. Bon nombre de ces incidents impliquent des préjugés et de la discrimination. Historiquement, biais et ensembles de données et la construction de modèles était considérée comme un problème mineur, subordonnée à la précision du modèle, mais plusieurs des incidents importants ont rendu les praticiens plus conscients des enjeux et des exigences éthiques qu'ils devraient appliquer dans leurs conceptions de système. Considérons deux cas de partialité et de discrimination. En 2014, Amazon tentait de créer un système d'IA qui aideraient plus facilement leurs recruteurs identifier les meilleurs candidats. Pour ce faire, l'entreprise a commencé à construire un outil qui pourrait automatiser l'examen des CV et utilisez des mots-clés pour identifier les meilleurs candidats. L'entreprise a utilisé des données sur les CV et les embauches d'Amazon au cours des 10 dernières années dans le cadre d'un modèle d'apprentissage automatique supervisé pour codifier essentiellement l'entreprise anciennes pratiques d'embauche dans un système d'IA automatisé. Ce qu'ils ne savaient pas, c'est que les décisions des gestionnaires d'embauche dans le passé avaient été discriminatoires. Le système d'IA codifiait donc cette discrimination dans le système qu'ils construisaient. L'entreprise a fini par reconnaître que la machine modèle d'apprentissage était discriminatoire à l'égard des femmes, perpétuant un biais qui était présent dans leurs données de formation. C'était déclasser les CV avec des mots comme femmes, tels que ceux qui pourraient apparaître dans une déclaration de CV comme capitaine de l'équipe féminine de football et mentions de certains collèges féminins. Parce que la main-d'œuvre d'Amazon était majoritairement masculine, les anciens élèves de ces collèges étaient rares ou inexistants dans l'ensemble d'entraînement. Le système d'IA a appris que les diplômés de ces collèges étaient indésirables. Que l'entreprise ait ou non l'intention de discriminer contre les candidates, l'utilisation d'un algorithme qui élimine injustement des candidats d'un sexe, d'une race ou d'une religion en particulier est illégal. L'entreprise a nié que l'outil avait été utilisé exclusivement pour évaluer les candidats et a cessé de l'utiliser après l'apparition des problèmes de discrimination. Un autre problème courant dans la discrimination liée à l'IA et les préjugés ont à voir avec la race en ce qui concerne le sous-titrage et la classification des images. Au cours de ses recherches sur la reconnaissance faciale Joy Buolamwini, étudiante diplômée du MIT, a été retrouvée que les outils d'IA qu'elle utilisait avaient du mal reconnaître son visage. En tant que femme noire, son défi en utilisant la reconnaissance faciale était courant. De nombreux systèmes de reconnaissance faciale sont formés sur des données qui contient plus d'hommes blancs par rapport aux autres groupes. Par conséquent ces systèmes sont beaucoup moins précis pour certains groupes. Elle n'a pas pu utiliser la technologie aussi facilement comme ses pairs masculins blancs. Les problèmes de classification des images sont omniprésents. Les systèmes de sous-titrage des images peuvent perpétuer les préjugés qui peuvent déjà exister dans les données de formation. Comme dans l'exemple du système d'embauche d'Amazon. En 2020 alors que la pandémie faisait rage dans le monde, les citoyens ont été encouragés à prendre leur température pour voir s'ils avaient de la fièvre, l'un des principaux symptômes du covid. L'un des moyens les plus courants de mesurer la fièvre était un thermomètre à main. Mais lorsque Cloud Vision de Google a produit des légendes d'images pour les personnes détenant un de ces appareils, des photographies avec des mains à la peau foncée étaient sous-titrés comme contenant des armes à feu. Alors que les photos d'Asiatiques les tenant étaient étiquetées comme appareil électronique. Même lorsqu'une image identique d'une main tenant l'appareil a été utilisé et que la couleur de la peau a changé, l'appareil a tenu par la main à la peau plus foncée était sous-titré comme une arme à feu, tandis que l'appareil dans la main à la peau claire était sous-titré comme un outil. Ces exemples illustrent l'importance d'utiliser des ensembles de données impartiaux pour la formation et pour s'assurer que les systèmes ne se perpétuent pas et mettre à l'échelle les préjugés humains du passé.

Intermédiaire Fournisseur : Briana Brownell 3 leçons · 14m en Arabe, Allemand, Anglais, Espagnol, Français, Portugais, Chinese

Description du cours

Ces leçons sur les incidents critiques d'intelligence artificielle examinent les incidents importants d'IA à travers une série d'exemples concrets de résultats négatifs en IA, comment ils ont été résolus et comment ils auraient pu être évités. Plus précisément, vous travaillerez à travers des études de cas axées sur les questions d'identité et de discrimination, le contenu offensant et les implications juridiques. Vous examinerez d'abord un cas de discrimination à l'embauche d'IA où les candidates ont été exclues, puis vous examinerez un cas d'IA d'image biaisée qui a donné lieu à des descriptions de photos offensantes.

La deuxième série d'études de cas porte sur la génération et l’amplification de contenu offensant sur les plateformes Internet populaires en raison de mauvais acteurs. Grâce aux études de cas finales, vous explorerez des cas où les systèmes d'IA recoupent la loi et vous aurez un aperçu des implications juridiques de telles interactions.

Ce que vous allez apprendre

Décrire les façons dont les systèmes d'IA peuvent échouer ou poser problème
Reconnaître les problèmes éthiques soulevés par les cas d'utilisation réels de l'IA
Examiner les échecs de l'IA impliquant l'identité et la discrimination à l'aide d'études de cas
Analyser comment les systèmes d'IA génèrent ou amplifient les contenus offensants
Explorer les cas où les systèmes d'IA s'entrecroisent avec le droit et leurs implications juridiques
Tirer des leçons des incidents passés liés à l'IA pour comprendre comment ils ont été résolus et évités

Points clés à retenir

Le cours étudie des incidents importants liés à l'IA à travers des exemples concrets de résultats négatifs, en examinant comment ils ont été résolus et comment ils auraient pu être évités.
Les études de cas portent sur l'identité et la discrimination, notamment une IA de recrutement qui a exclu des candidates et une IA d'image biaisée qui a produit des descriptions de photos offensantes.
Une série d'études de cas aborde la génération et l'amplification de contenus offensants sur les plateformes Internet populaires causées par des acteurs malveillants.
Les dernières études de cas explorent la manière dont les systèmes d'IA se croisent avec la loi et les implications juridiques de ces interactions.
Les leçons visent à renforcer la compréhension de l'éthique de l'IA en tirant les leçons des problèmes passés liés à l'IA.

Foire aux questions

Que couvre ce cours ?

Il examine des incidents importants liés à l'IA à travers des études de cas réels ayant eu des conséquences négatives, en se concentrant sur l'identité et la discrimination, le contenu offensant et les implications juridiques, y compris la façon dont les incidents ont été résolus et la façon dont ils auraient pu être évités.

Quels exemples concrets sont discutés ?

Parmi les exemples, citons un cas de discrimination à l'embauche par l'IA où les candidates ont été exclues, une IA de traitement d'images biaisée qui a produit des descriptions de photos offensantes, l'amplification de contenus offensants sur des plateformes Internet populaires par des acteurs malveillants, et des cas où les systèmes d'IA interfèrent avec la loi.

Que serai-je capable de faire après avoir suivi ce cours ?

Vous serez en mesure de décrire les façons dont les systèmes d'IA peuvent échouer ou s'avérer problématiques, de reconnaître les problèmes liés à l'éthique de l'IA dans des cas d'utilisation réels et d'apprendre des problèmes passés liés à l'IA.

Quels sujets ou leçons sont inclus ?

Les leçons sont : Les problèmes d'IA en matière d'identité et de discrimination, L'IA et le contenu offensant, et Les traducteurs d'IA et les implications juridiques.

Quelles compétences ce cours permet-il de développer ?

Il développe des compétences dans les applications de l'intelligence artificielle, les systèmes d'intelligence artificielle, l'intelligence artificielle, le développement de l'intelligence artificielle, l'éthique des données et l'IA explicable (Explainable AI - XAI).