Éthique et responsabilité de l’IA : introduction à l’intelligence artificielle éthique

Name: Éthique et responsabilité de l’IA : introduction à l’intelligence artificielle éthique
Author: Briana Brownell

Découvrez comment l'éthique influe sur le développement des systèmes d'intelligence artificielle

Preview the first lesson free — get full access to all 7 lessons.

Demander une démo Se connecter

Cours : à la demande

(musique lumineuse) De nombreuses organisations ont déjà un cadre de gouvernance pour leur technologie de l'information ou informatique. Il existe de nombreuses similitudes entre la gouvernance de l'IA et la gouvernance de l'informatique. Commençons par une structure de gouvernance informatique typique. L'Organisation internationale de normalisation, ou ISO. et la Commission électrotechnique internationale, ou CEI, fournir le cadre général suivant sur la gouvernance de l'informatique. Les organes directeurs sont ceux qui attribuent la responsabilité pour diverses initiatives informatiques, compte tenu des pressions commerciales, des obligations réglementaires, les attentes des parties prenantes et les besoins de l'entreprise. L'organe directeur surveille les performances et la conformité des gestionnaires, évalue les propositions et les plans et dirige la stratégie et les politiques. Ce cadre de gouvernance est axé sur les personnes et les processus de l'organisation pour assurer qu'il y a une surveillance et une responsabilisation appropriées. En fin de compte, cependant, c'est l'organe directeur de l'organisation responsable aux parties prenantes de l'organisation ils sont responsables des décisions, des actions et de l'inaction. Cela inclut les cas où la surveillance est insuffisante d'un domaine de l'organisation. En termes d'éthique de l'IA, cela signifie que l'organe directeur est ultimement responsable pour s'assurer que des politiques appropriées autour de l'IA sont en place et suivies. Ils sont également chargés d'évaluer les risques encourus dans les projets informatiques et l'utilisation de la technologie. Mais la gouvernance de l'IA diffère à partir d'un cadre de gouvernance informatique typique de plusieurs façons. L'IA est plus qu'un simple outil. Il ajoute de l'intelligence au cadre informatique et les systèmes de décision dans lesquels il fonctionne. Collecte de données, nettoyage, analyse, et la modélisation sont généralement utilisés dans un système d'IA, la gouvernance de l'IA devrait donc inclure des politiques spécifiques, processus et lignes directrices pour la collecte de données, l'intégrité et utiliser dans la création d'un système d'IA. Il devrait y avoir un cadre pour s'assurer que les systèmes d'IA représentent les valeurs des parties prenantes de l'organisation. Cela inclut la clarté sur les limites de la responsabilité client/fournisseur. Cependant, aucune des considérations spécifiques pour la technologie AI délègue la responsabilité de la gouvernance. Il reste à l'instance dirigeante. En fait, il est essentiel de noter que la responsabilité de l'organe directeur ne peut être déléguée.

Intermédiaire Fournisseur : Briana Brownell 7 leçons · 21m en Arabe, Allemand, Anglais, Espagnol, Français, Portugais, Chinese

Description du cours

Dans ces leçons, vous découvrirez le paysage de la gouvernance autour de l'IA. Vous en apprendrez davantage sur l'alignement de l'IA avec les valeurs humaines et les impacts externes qui sont indirectement liés à la création et au déploiement de tout système d'IA, tels que les impacts environnementaux. Vous découvrirez également les systèmes d'IA qui causent des dommages délibérés et des modèles sombres, des modèles de conception trompeurs qui sont utilisés pour influencer les individus à effectuer une action qui peut ne pas être dans leur meilleur intérêt.

Les organes directeurs sont ceux qui attribuent la responsabilité de diverses initiatives informatiques, compte tenu des pressions commerciales, des obligations réglementaires, des attentes des parties prenantes et des besoins opérationnels. En termes d'éthique de l'IA, cela signifie que l'organe directeur est responsable en dernier ressort des décisions, des actions et des inactions. Les considérations culturelles, les conventions linguistiques et les spécificités géographiques recoupent l'IA éthique, car elle est basée sur la façon dont les gens vivent et travaillent dans un endroit particulier.

Enfin, ces leçons donneront un aperçu de huit thèmes différents parmi les principes de l'IA identifiés par le Berkman Klein Center: la vie privée, la responsabilité, la sûreté et la sécurité, la transparence et l'explicabilité, l'équité et la non-discrimination, le contrôle humain de la technologie, la responsabilité professionnelle et la promotion des valeurs humaines.

Ce que vous allez apprendre

Décrire la structure de gouvernance, de régulation et de politique entourant les systèmes d'IA
Reconnaître la responsabilité des instances dirigeantes pour les décisions, les actions et l'inaction de l'IA
Examiner l'alignement de l'IA avec les valeurs humaines et l'utilisation involontaire ou contraire à l'éthique de l'IA
Prendre en compte les facteurs culturels, linguistiques et géographiques dans l'éthique de l'IA
Identifier les impacts externes et les dommages, y compris les effets environnementaux et les dark patterns (pièges utilisateurs)
Passer en revue les huit thèmes de principes éthiques de l'IA identifiés par le Berkman Klein Center

Points clés à retenir

L'instance dirigeante attribue la responsabilité des initiatives informatiques en fonction des pressions commerciales, des obligations réglementaires, des attentes des parties prenantes et des besoins de l'entreprise, et est en fin de compte responsable des décisions, actions et inactions de l'IA.
L'éthique de l'IA implique un alignement avec les valeurs humaines ainsi que des impacts externes indirects tels que les effets environnementaux.
Les dark patterns sont des modèles de conception trompeurs utilisés pour influencer les individus à effectuer une action qui peut ne pas être dans leur meilleur intérêt.
Les considérations culturelles, les conventions linguistiques et les spécificités géographiques croisent l'IA éthique, car celle-ci est fondée sur la façon dont les gens vivent et travaillent dans un lieu particulier.
Le Berkman Klein Center a identifié huit thèmes parmi les principes de l'IA : la confidentialité, la responsabilité, la sûreté et la sécurité, la transparence et l'explicabilité, l'équité et la non-discrimination, le contrôle humain de la technologie, la responsabilité professionnelle et la promotion des valeurs humaines.

Foire aux questions

Quels sujets ce cours couvre-t-il ?

Il couvre le paysage de la gouvernance autour de l'IA, l'alignement de l'IA avec les valeurs humaines, les impacts externes tels que les effets environnementaux, les dommages délibérés et les dark patterns, la responsabilité des instances dirigeantes, les facteurs culturels, linguistiques et géographiques, ainsi qu'un aperçu des huit thèmes de principes éthiques de l'IA identifiés par le Berkman Klein Center.

Que sont les dark patterns (pièges utilisateurs) tels qu'abordés dans ce cours ?

Les dark patterns sont des conceptions trompeuses utilisées pour influencer les individus à exécuter une action qui pourrait ne pas être dans leur meilleur intérêt.

Quels principes éthiques de l'IA sont passés en revue ?

Le cours fournit un aperçu de huit thèmes identifiés par le Berkman Klein Center : la confidentialité, la responsabilité, la sûreté et la sécurité, la transparence et l'explicabilité, l'équité et la non-discrimination, le contrôle humain de la technologie, la responsabilité professionnelle et la promotion des valeurs humaines.

À quelles compétences ce cours est-il lié ?

Il se rapporte aux compétences incluant les applications de l'intelligence artificielle, les systèmes d'intelligence artificielle, l'intelligence artificielle, l'intelligence des données, l'intelligence environnementale et les systèmes intelligents.