Éthique et responsabilité de l'IA : biais, inclusivité et équité dans l'intelligence artificielle

Name: Éthique et responsabilité de l'IA : biais, inclusivité et équité dans l'intelligence artificielle
Author: Briana Brownell

Découvrez pourquoi les préjugés et l'équité sont des concepts si importants dans l'éthique de l'IA

Preview the first lesson free — get full access to all 4 lessons.

Demander une démo Se connecter

Cours : à la demande

(musique entraînante) Alors que les systèmes d'IA commencent à avoir un impact encore plus de domaines de nos vies, le public est de plus en plus conscient des dangers que peuvent présenter des systèmes biaisés sur les individus et sur la société dans son ensemble. Le risque réel de biais dans les systèmes d'IA est qu'il peut étendre massivement l'injustice préjudiciable et d'une manière qui n'aurait peut-être pas été prévue. Lorsque la fonctionnalité d'IA est déployée dans les systèmes qui ont un impact significatif sur la vie des gens, comme dans l'évaluation du crédit, l'emploi, ou le système de justice pénale, ils peuvent gravement nuire à la confiance du public dans les systèmes d'IA. Pour cette raison, beaucoup d'attention est portée aux moyens par lesquels les praticiens peuvent détecter les biais dans les systèmes d'IA pendant qu'ils sont construits et empêcher le déploiement de systèmes d'IA biaisés. Le biais est particulièrement important lors de la création de modèles d'apprentissage automatique. Il existe de nombreux domaines dans lesquels nos données sont collectées. Ces données qui est utilisé pour former des modèles d'apprentissage automatique intégré dans les systèmes d'IA, pourrait être biaisé pour ou contre certains types d'individus en fonction de facteurs tels que le sexe et la race. En effet, les données collectées peuvent systématiquement inclure ou exclure certains groupes. L'étiquetage des données peut également introduire un biais. Mais la technologie peut fournir une solution partielle à certains de ces défis. Il existe des outils techniques qui peut être utilisé pour détecter le biais de l'IA ainsi que les bonnes pratiques de pré-traitement des données, sélection des fonctionnalités et formation du modèle. De plus, des biais peuvent exister dans les systèmes d'IA qui n'utilisent pas de modèles d'apprentissage automatique. Dans ces cas, cela peut être le résultat de décisions probablement involontaires faits par des praticiens qui ne tiennent pas compte de la diversité de ceux qui utilisent le système. Le système de décision peut renforcer les croyances existantes qui sont biaisés. Par exemple, une offre d'emploi exigeant un certain niveau d'études comme un baccalauréat ou une maîtrise pourrait codifier le parti pris d'un responsable du recrutement sur ce qui fait un bon candidat sans voir si ces facteurs sont pertinents pour la performance. Un système d'IA basé sur ces paramètres peut alors rejeter de bons candidats avec un arrière-plan moins traditionnel. Dans tous les systèmes d'IA, la prévention des biais doit être un élément important du processus tout au long du pipeline de construction de modèles, conception, collecte de données, formation et test de modèles, décisions sur les variables à inclure et à exclure, l'algorithme utilisé dans le modèle résultant, et la manière dont il est déployé. Veiller à ce que les préjugés soient pris en compte dans tout le processus de conception devrait faire partie du cadre de gouvernance pour la conception et la mise en œuvre de tout système d'IA.

Intermédiaire Fournisseur : Briana Brownell 4 leçons · 8m en Arabe, Allemand, Anglais, Espagnol, Français, Portugais, Chinese

Description du cours

Ces leçons sur les préjugés, l'inclusivité et l'équité dans l'intelligence artificielle exploreront pourquoi les préjugés sont l'un des concepts les plus discutés impliquant l'éthique de l'IA et pourquoi la prévention des préjugés devrait faire partie de la gouvernance de chaque système d'IA. En outre, ces leçons passeront en revue les concepts d'équité, de représentativité et de principe d'impact inclusif.

Les systèmes d'IA mettent à l'échelle les injustices nuisibles à un degré massif. Par conséquent, la prévention des biais devrait faire partie de l'ensemble du pipeline de construction du modèle, de la conception à la collecte de données, en passant par la formation et les tests du modèle. Des données représentatives sont importantes pour surmonter les biais dans la création de modèles d'apprentissage automatique. Pour que les données soient représentatives, elles doivent représenter avec précision les cas concernés par l'IA. Vous apprendrez comment des données représentatives peuvent être utilisées pour atténuer ou éliminer les biais dans les systèmes d'IA basés sur l'apprentissage automatique.

Fondamentalement, l'équité signifie que les personnes concernées doivent être traitées de manière impartiale et équitable, indépendamment de caractéristiques telles que la race, le sexe, l'âge, la région, la nationalité, le pays d'origine, les convictions politiques, la religion, etc. À travers ces leçons, vous explorerez également le concept d'équité et sa pertinence pour les préjugés, dont les définitions spécifiques ont été longuement explorées dans la littérature académique.

Enfin, vous apprendrez le principe de l'impact inclusif et comment il peut être utilisé pour responsabiliser les gens et partager les avantages entre tous.

Ce que vous allez apprendre

Décrire la différence entre les biais et l'équité dans les systèmes d'IA
Reconnaître les risques posés par des systèmes d'IA biaisés
Expliquer pourquoi des données représentatives sont importantes pour créer une IA équitable
Appliquer des données représentatives pour atténuer ou éliminer les biais dans les systèmes d'IA basés sur l'apprentissage automatique (machine learning)
Comprendre le principe d'impact inclusif et sa capacité à responsabiliser ceux qui interagissent avec l'IA
Explorer l'équité, la représentativité et le principe d'impact inclusif dans l'éthique de l'IA

Points clés à retenir

Les biais (bias) sont l'un des concepts les plus discutés en matière d'éthique de l'IA, et leur prévention devrait faire partie de la gouvernance de tout système d'IA.
Étant donné que les systèmes d'IA amplifient massivement l'injustice préjudiciable, la prévention des biais doit couvrir l'ensemble du processus de création de modèles (model-building pipeline), de la conception à la collecte de données, en passant par l'entraînement et les tests des modèles.
Des données représentatives représentent fidèlement les cas qui concernent l'IA et sont importantes pour surmonter les biais dans la création de modèles d'apprentissage automatique (machine learning).
L'équité signifie que les personnes concernées par les données doivent être traitées de manière impartiale et équitable, indépendamment de caractéristiques telles que la race, le sexe, l'âge, la région, la nationalité, le pays d'origine, les convictions politiques ou la religion.
Le principe d'impact inclusif peut être utilisé pour autonomiser les individus (empower people) et partager les avantages entre tous.

Foire aux questions

Quels sujets ce cours couvre-t-il ?

Il aborde les biais, l'inclusivité et l'équité dans l'intelligence artificielle, y compris la détection et la prévention des biais, les données représentatives, l'équité dans l'IA et l'impact inclusif.

Quelles compétences vais-je acquérir grâce à ce cours ?

Vous développerez des compétences en systèmes d'intelligence artificielle, intelligence artificielle, biais (biasing), intelligence computationnelle, éthique des données et politiques de diversité, d'équité et d'inclusion.

Que signifie l'équité dans le contexte de l'IA ?

L'équité (fairness) signifie que les personnes concernées par les données doivent être traitées de manière impartiale et équitable, indépendamment de caractéristiques telles que la race, le sexe, l'âge, la région, la nationalité, le pays d'origine, les convictions politiques ou la religion.

Pourquoi les données représentatives sont-elles importantes ?

Pour que les données soient représentatives, elles doivent représenter fidèlement les cas traités par l'IA. De plus, les données représentatives peuvent être utilisées pour atténuer ou éliminer les biais dans les systèmes d'IA basés sur le machine learning.

Qu'est-ce que le principe d'impact inclusif ?

L'impact inclusif est un principe qui peut être utilisé pour donner plus de pouvoir (empower) aux personnes qui interagissent avec l'IA et pour partager les bénéfices avec tout le monde.