Éthique et responsabilité de l'IA : la responsabilité dans l'IA

Name: Éthique et responsabilité de l'IA : la responsabilité dans l'IA
Author: Briana Brownell

Découvrez comment les systèmes d'IA peuvent être évalués à l'aide des principes de responsabilité

Preview the first lesson free — get full access to all 4 lessons.

Cours : à la demande

(musique lumineuse) À la base, la responsabilité est un élément fondamental de l'éthique de l'IA. La responsabilité est pertinente à toutes les étapes du cycle de vie d'un système d'IA, y compris pendant la conception et après le déploiement. Ainsi que lorsqu'un dommage survient à la suite du système. Il est facile d'imaginer un système d'IA pour lequel aucun humain assume la responsabilité des décisions prises par le système et donc personne n'est tenu pour responsable. En fait, il existe de nombreux systèmes de ce type qui ont déjà été créés. Mais le principe de responsabilité dit qu'il doit toujours y avoir un organe directeur composé d'humains qui sont responsables du système d'IA à toutes ses étapes. Avoir une politique claire de responsabilité est particulièrement important lorsque les technologies ont le potentiel d'avoir un impact sur les humains à grande échelle. Et il y a plusieurs principes spécifiques supplémentaires qui sont importants pour la responsabilisation. Validation, évaluation et audit. La validation du modèle est une partie importante de la construction n'importe quel système d'IA. Les décisions de conception qui sont prises par l'équipe de construction du modèle. Comment, quand et quelles données sont collectées. Décisions sur le nettoyage des données et l'exclusion des valeurs aberrantes. Combiner et relier les sources de données. Traitement des variables manquantes. Avoir un impact démontrable sur le modèle final. Même quelle méthode de modélisation est utilisée et pourquoi peut faire une grande différence sur l'impact réel du modèle lors du déploiement. La validation et l'évaluation peuvent inclure des contrôles techniques pour voir à quel point un modèle prédictif peut être précis ou robuste, y compris l'identification des faux positifs et les faux négatifs. Il peut également inclure l'évaluation et le suivi qui est effectuée après le déploiement de l'IA, ainsi que les décisions prises en fonction de cette performance. Pour cette raison, les organisations cherchent des moyens pour valider, évaluer et auditer leurs systèmes en externe. Cela suggère que dans certains cas, il pourrait y avoir un organe de contrôle externe. Il y a un débat sur la question de savoir si cet organe de contrôle serait interne à l'organisation ou à un groupe externe. Les deux possibilités posent des défis aux organisations demander une validation externe. Certains pays ont proposé des normes nationales ou des groupes qui peuvent assumer ce rôle. La validation, l'évaluation et l'audit sont importants composants dans un cadre éthique approprié pour l'IA. Mais les organisations doivent être proactives pour s'assurer que ces principes soient systématisés et créés explicitement dans le cadre de processus. Cela garantirait la responsabilité dans la conception, déploiement et évaluation des systèmes d'IA qu'ils ont construits.

Intermédiaire Fournisseur : Briana Brownell 4 leçons · 8m en Arabe, Allemand, Anglais, Espagnol, Français, Portugais, Chinese

Description du cours

La responsabilité est un élément essentiel de l'éthique de l'IA, et elle est pertinente à toutes les étapes du cycle de vie d'un système d'IA, y compris pendant la conception, après le déploiement, ainsi que lorsqu’un dommage survienne en raison du système. Dans ces leçons sur la responsabilité dans l'IA, vous apprendrez comment les systèmes d'IA peuvent être évalués à l'aide des principes de responsabilité, ainsi que des réformes réglementaires et des cadres juridiques et de leur intersection avec la responsabilité.

Les systèmes complexes, bien que plus difficiles à évaluer, sont particulièrement importants à analyser pour déterminer les impacts et les préjudices potentiels. Vous apprendrez comment les systèmes d'IA peuvent être évalués, y compris les évaluations d'impact sur les droits de l'homme (EIDH), et pourquoi il est particulièrement important de mener des évaluations d'impact préventives, afin que tout préjudice potentiel puisse être atténué.

Plusieurs autres principes spécifiques sont importants pour la responsabilisation, notamment la validation, l'évaluation et l'audit. Ces leçons porteront sur la responsabilisation et plusieurs principes importants : la capacité de faire appel d'une décision prise par une IA et la capacité de contester l'utilisation du système d'IA pour prendre cette décision.

Enfin, dans certains domaines, on assiste à des réformes réglementaires de plus en plus nombreuses et à un cadre juridique plus solide en termes de responsabilité. Mais il n'est pas clair quelles réglementations actuelles sont appropriées pour les systèmes d'IA. Nous discuterons des raisons pour lesquelles la conformité réglementaire est une considération extrêmement importante pour les organisations, ainsi que des considérations juridiques et de responsabilité liées à la conception, au développement et au déploiement de systèmes d'IA.

Ce que vous allez apprendre

Décrire comment les systèmes d'IA peuvent être évalués à l'aide des principes de responsabilité (accountability), y compris les Évaluations de l'impact sur les droits de l'homme (HRIA)
Identifier les problèmes liés aux réformes réglementaires et aux cadres juridiques pertinents pour la responsabilité (accountability) de l'IA
Expliquer en quoi la responsabilité est importante pour l'éthique de l'IA tout au long du cycle de vie du système d'IA
Appliquer les principes de validation, d'évaluation et d'audit lors de l'évaluation des systèmes d'IA
Évaluer la capacité de faire appel et de contester les décisions prises par un système d'IA
Examiner la responsabilité (liability) et les considérations juridiques autour de la conception, du développement et du déploiement des systèmes d'IA

Points clés à retenir

La responsabilité (accountability) est pertinente à toutes les étapes du cycle de vie d'un système d'IA, y compris la conception, après le déploiement et lorsque des dommages surviennent.
Les systèmes complexes sont plus difficiles à évaluer, mais il est particulièrement important de les analyser pour détecter les impacts et les préjudices potentiels.
Les évaluations d'impact préventives, telles que les Évaluations de l'impact sur les droits de l'homme (Human Rights Impact Assessments), aident à atténuer les préjudices potentiels avant qu'ils ne se produisent.
La responsabilité (accountability) comprend la capacité de faire appel d'une décision de l'IA et de contester l'utilisation d'un système d'IA pour prendre cette décision.
La conformité réglementaire est une considération importante pour les organisations, bien qu'il ne soit pas clair quelles réglementations actuelles sont appropriées pour les systèmes d'IA.

Foire aux questions

Que couvre ce cours ?

Il couvre la responsabilité de l'IA, y compris la manière dont les systèmes d'IA peuvent être évalués à l'aide des principes de responsabilité, les évaluations de l'impact sur les droits de l'homme (HRIA), la validation, l'évaluation et l'audit, la capacité à faire appel et à contester les décisions de l'IA, ainsi que les réformes réglementaires, les cadres juridiques et les considérations en matière de responsabilité (liability).

Qu'est-ce que je vais apprendre sur l'évaluation des systèmes d'IA ?

Vous apprendrez comment les systèmes d'IA peuvent être évalués, y compris l'utilisation d'évaluations de l'impact sur les droits de l'homme (HRIA), et pourquoi il est important de mener des évaluations d'impact préventives afin de pouvoir atténuer les dommages potentiels.

Quels sujets sont inclus dans les leçons ?

Les leçons couvrent la Validation, l'Évaluation et l'Audit ; l'Évaluation de l'impact des systèmes d'IA ; la Capacité à faire appel ; et la Responsabilité et les Considérations juridiques.

Que dit le cours sur la réglementation et la responsabilité ?

Certains domaines connaissent des réformes réglementaires croissantes et des cadres juridiques plus robustes pour la responsabilité, mais on ne sait pas clairement quelles réglementations actuelles sont appropriées pour les systèmes d'IA. Le cours explique pourquoi la conformité réglementaire est une considération extrêmement importante pour les organisations, ainsi que la responsabilité (liability) et les considérations juridiques liées à la conception, au développement et au déploiement de systèmes d'IA.

À quelles compétences ce cours se rapporte-t-il ?

Il se rapporte à la Responsabilité, à l'Éthique appliquée, à l'Éthique des données, à l'Éthique de l'ingénierie, à l'Intégrité référentielle et à la Responsabilité sociale.