Éthique et responsabilité de l’IA : défis spécifiques de l’IA et de l’apprentissage automatique

Name: Éthique et responsabilité de l’IA : défis spécifiques de l’IA et de l’apprentissage automatique
Author: Briana Brownell

Découvrez comment l'apprentissage automatique pose différents défis éthiques à d'autres formes de développement logiciels.

Preview the first lesson free — get full access to all 5 lessons.

Demander une démo Se connecter

Cours : à la demande

(musique douce) L'apprentissage automatique pose des défis uniques en termes d'éthique et de responsabilité. À bien des égards, les systèmes de décision qui utilisent l'apprentissage automatique sont plus difficiles à résoudre que d'autres formes de développement de logiciels. Nous allons commencer par le type d'apprentissage automatique le plus courant. L'apprentissage supervisé est presque certainement le style d'apprentissage automatique le plus couramment utilisé actuellement. Il existe de nombreux cas d'utilisation pour ce type d'apprentissage, comme prédire quels facteurs influencent le plus l'expérience client, prévoir et prévenir le désabonnement des clients, qui fait référence à la perte de clients, prévoir le succès d'une stratégie marketing pour optimiser les dépenses de canal, projection de l'utilisation du système ou du trafic piétonnier, ou prédire le comportement des utilisateurs et donner un coup de pouce pour le changer. Remarquez que tous ces cas avoir une sorte de résultat prévu. C'est le différenciateur entre supervisé l'apprentissage automatique et d'autres types que nous examinerons. Ces prédictions et leurs actions ultérieures sont basés sur les données collectées et de nombreuses considérations éthiques concernent ces données. D'autres encore se rapportent à l'impact de la prédiction, qui est unique à l'apprentissage automatique supervisé. Il y a des considérations techniques et non techniques autour de l'éthique et de la responsabilité qui sont particulièrement applicable aux modèles d'apprentissage supervisé. En termes de considérations techniques, quelques méthodes d'apprentissage supervisé sont particulièrement sensibles à l'influence des valeurs aberrantes dans l'ensemble de données. Ainsi, lorsque des données contenant ces erreurs sont collectées, le modèle global pourrait bien fonctionner à l'entraînement, mais ensuite échouer lors du déploiement. Parfois, nous le savons à l'avance lorsque le modèle prédictif fonctionne mal avec un jeu de test, mais souvent nous ne le savons pas avant le déploiement. Cela ajoute plusieurs risques supplémentaires autour de l'impact du système en termes de partialité et d'équité. L'apprentissage supervisé dépend de la possession de données étiquetées. Souvent, cet étiquetage est fait par des humains sur la base d'un ensemble de critères qualitatifs. Il est difficile non seulement pour chaque personne d'être cohérent dans leur étiquetage, mais aussi pour qu'il y ait cohérence sur plusieurs évaluateurs. Les évaluateurs eux-mêmes apportent leurs propres biais au problème de l'étiquetage, qui a la possibilité d'introduire accidentellement des problèmes dans le modèle d'apprentissage supervisé qui en résulte. Par exemple, imaginez que les évaluateurs fournissent une note de la force d'un CV, et ces données sont ensuite utilisées pour créer un système automatisé qui marquera les CV automatiquement. Ces évaluateurs peuvent eux-mêmes être biaisés envers ou contre certaines écoles, anciennes entreprises, ou des activités parascolaires. Au fur et à mesure qu'ils notent les CV, ils peuvent reproduire leur propre parti pris dans le modèle d'apprentissage automatique supervisé en fournissant un étiquetage biaisé. Des modèles plus compliqués, comme ceux construits à l'aide de réseaux de neurones profonds, peut être difficile à expliquer et ont donc des problèmes de transparence. De plus, en raison de leur complexité, il peut être plus difficile de vérifier la sécurité et la sécurité du modèle d'apprentissage automatique résultant. Tous ces facteurs signifient que l'apprentissage supervisé a une longue liste de considérations éthiques qui devrait être abordé.

Intermédiaire Fournisseur : Briana Brownell 5 leçons · 16m en Arabe, Allemand, Anglais, Espagnol, Français, Portugais, Chinese

Description du cours

Dans ces leçons sur les défis uniques de l'IA et de l'apprentissage automatique, vous explorerez les types d'apprentissage automatique, y compris supervisé, qui utilise des données étiquetées pour faire des prédictions; non supervisé, une série de techniques permettant de comprendre la structure des données sans variable de résultat; et l'apprentissage par renforcement, l'un des plus anciens styles d'apprentissage automatique qui utilise une méthode d'apprentissage basée sur des objectifs. Vous comprendrez également les considérations éthiques entourant les réseaux neuronaux et l'IA générative.

L'apprentissage automatique est à la base de nombreux systèmes d'IA construits aujourd'hui. Les réseaux de neurones artificiels sont parmi les méthodes d'apprentissage automatique les plus efficaces. Ils résolvent bon nombre des problèmes les plus difficiles du domaine, y compris ceux qui ont passé des décennies sans solution. Mais l'utilisation de réseaux neuronaux a également ajouté de nouveaux défis à l'IA, notamment la façon de tester les cas limites et la robustesse des sorties. La complexité des systèmes de test peut les rendre particulièrement difficiles à analyser. Nous passerons en revue les considérations spécifiques que les réseaux neuronaux ont en termes d'éthique.

L'IA générative est un domaine plus récent et émergent qui concerne l'éthique et la responsabilité de l'IA.

Nous discuterons du test de Lovelace qui vise à tester si un ordinateur pourrait générer quelque chose de surprenant et d'original.

Ce que vous allez apprendre

Faire la différence entre les principaux types d'apprentissage automatique : apprentissage supervisé, non supervisé et par renforcement
Reconnaître les défis éthiques uniques posés par les réseaux de neurones artificiels
Expliquer les défis éthiques autour de l'IA générative
Examiner pourquoi les réseaux de neurones rendent difficile le test des cas extrêmes (edge cases) et la robustesse des sorties
Décrire le test de Lovelace pour déterminer si un ordinateur peut générer quelque chose de surprenant et d'original

Points clés à retenir

L'apprentissage supervisé utilise des données étiquetées pour faire des prédictions, l'apprentissage non supervisé utilise des techniques pour comprendre la structure des données sans variable de résultat, et l'apprentissage par renforcement est une méthode d'apprentissage basée sur des objectifs.
Les réseaux de neurones artificiels comptent parmi les méthodes d'apprentissage automatique les plus performantes et ont permis de résoudre des problèmes qui étaient restés sans solution pendant des décennies.
Les réseaux de neurones introduisent de nouveaux défis pour l'IA, notamment comment tester les cas particuliers (edge cases) et la robustesse des résultats, et leurs systèmes de test peuvent être particulièrement difficiles à analyser.
L'IA générative est un domaine plus récent et émergent qui concerne l'éthique et la responsabilité de l'IA.
Le test de Lovelace vise à évaluer si un ordinateur pourrait générer quelque chose de surprenant et d'original.

Foire aux questions

Que couvre ce cours ?

Il couvre les types d'apprentissage automatique (supervisé, non supervisé et apprentissage par renforcement), les considérations éthiques autour des réseaux de neurones artificiels et les défis éthiques de l'IA générative, y compris une discussion sur le test de Lovelace.

Quels sont les principaux objectifs d'apprentissage ?

Distinguer les principaux types d'apprentissage automatique, reconnaître les défis uniques posés par les réseaux de neurones artificiels et expliquer les défis éthiques liés à l'IA générative.

Quelles leçons sont incluses ?

Le cours comprend des leçons sur L'Apprentissage supervisé, L'Apprentissage non supervisé, L'Apprentissage par renforcement, Les Réseaux de neurones et L'IA générative.

Quelles compétences vais-je développer ?

Vous développerez des compétences en Intelligence Artificielle, Apprentissage automatique automatisé (Automated Machine Learning), Apprentissage automatique, Méthodes d'apprentissage automatique, Apprentissage supervisé et Apprentissage non supervisé.

Pourquoi les réseaux de neurones font-ils l'objet d'une attention éthique particulière dans ce cours ?

Parce que, bien qu'ils comptent parmi les méthodes d'apprentissage automatique les plus efficaces, les réseaux de neurones ajoutent de nouveaux défis tels que le test des cas particuliers et la robustesse des résultats, et leur complexité peut rendre les systèmes de test particulièrement difficiles à analyser.