Éthique et responsabilité de l’IA : confidentialité, sûreté et sécurité de l’intelligence artificielle

Name: Éthique et responsabilité de l’IA : confidentialité, sûreté et sécurité de l’intelligence artificielle
Author: Briana Brownell

En savoir plus sur la confidentialité, la sûreté et la sécurité dans l'intelligence artificielle

Preview the first lesson free — get full access to all 6 lessons.

Demander une démo Se connecter

Cours : à la demande

(musique numérique lumineuse) L'Assemblée générale des Nations Unies adopté la Déclaration universelle des droits de l'homme en 1948. C'est l'article 12 lit, nul ne sera l'objet d'ingérences arbitraires avec son intimité, sa famille, son domicile ou sa correspondance, ni aux atteintes à son honneur et à sa réputation. Toute personne a droit à la protection de la loi contre de telles ingérences ou attaques. Le droit à la vie privée est de plus en plus important dans notre monde interconnecté où une myriade d'informations hautement sensibles sont numérisées. Cette numérisation croissante signifie qu'il existe de plus en plus de moyens où les droits à la vie privée peuvent être violés. Règlement général sur la protection des données de l'Union européenne, ou GDPR, entré en vigueur en 2018, a influencé de nombreuses réglementations en matière de confidentialité dans le monde. Les principes évoqués dans le RGPD ont eu un impact très fort sur deux principes en particulier, le consentement et le contrôle de l'utilisation des données. Le principe du consentement maintient qu'un individu doit donner la permission ou consentir à ce que leurs données soient utilisées. Ce principe est issu du concept du consentement éclairé dans le domaine médical où les individus doivent être informés sur les risques, les avantages et des alternatives aux traitements proposés. La définition du consentement varie considérablement des exigences au simple préavis de traitement ayant fourni des données, plutôt qu'un moyen pour les individus de s'inscrire explicitement, à la capacité de donner explicitement son consentement, ainsi que la possibilité de révoquer le consentement ultérieurement. Ceux qui travaillent dans l'éthique de l'IA devraient prendre du temps pour délimiter clairement ce que fait et ne vaut pas consentement, comment cela suit les réglementations pertinentes, et quels cadres sont en place pour suivre et vérifier que le consentement a bien été donné. Un principe connexe est le contrôle de l'utilisation des données. Ce principe affirme que les individus devraient pouvoir contrôler la façon dont leurs données sont utilisées. Certains principes spécifiques détaillent comment ce contrôle pourrait être exercée, y compris, la possibilité de restreindre le traitement, le droit de rectification et le droit d'effacement. Il en résulte un principe connexe, la portabilité des données. Le principe de portabilité des données exige qu'un individu devrait pouvoir transférer ses propres données à des tiers. Plusieurs pays ont élaboré des réglementations autour de la portabilité des données nécessitant des entreprises pour permettre aux particuliers d'accéder facilement et transférer des données à des concurrents. Ceci est considéré comme une réglementation favorable à la concurrence qui nivelle le terrain de jeu et permet aux petites entreprises d'être compétitives avec de grands opérateurs historiques. En raison de l'importance de la vie privée de nombreuses organisations adoptent la confidentialité dès la conception. Cela intègre directement ces droits et principes dans la conception de tous leurs mécanismes de collecte de données et toutes leurs conceptions de systèmes d'IA. Comprendre les différents principes en jeu et quelles actions les organisations peuvent-elles entreprendre pour soutenir la protection de la vie privée est une première étape dans la protection efficace de la vie privée des parties prenantes. De plus, le consentement peut être lié au contrat entre l'entité fournissant les données et l'entité qui le rassemble. Les données personnelles ne doivent être utilisées que dans le but de remplir un contrat explicite ou implicite avec l'entité détenant les données personnelles. Autrement dit, l'entité détenant des données personnelles n'est pas autorisée à utiliser les données personnelles à toute autre fin. Ce principe est également lié à la capacité du fournisseur de données de restreindre le traitement. Le RGPD a été très influent ces dernières années ce qui peut être attribué au fait que les principes qui y sont énoncés, notamment les notions de consentement, de contrôle, et la portabilité sont maintenant des pièces standard de la plupart des réglementations internationales sur la protection de la vie privée.

Intermédiaire Fournisseur : Briana Brownell 6 leçons · 13m en Arabe, Allemand, Anglais, Espagnol, Français, Portugais, Chinese

Description du cours

Ces leçons sur la confidentialité, la sûreté et la sécurité dans l'intelligence artificielle traiteront du règlement général sur la protection des données, du consentement, de la portabilité des données, de la capacité à restreindre le traitement, du droit de rectification et du droit à l'effacement. Vous apprendrez des concepts importants impliquant la fiabilité et la sécurité et découvrirez comment la surveillance peut détecter les risques potentiels et atténuer rapidement les dommages si le système ne fonctionne pas comme souhaité. Ces leçons aborderont également l'importance de la traçabilité pour la sécurité.

En discutant du large éventail de concepts entourant la confidentialité, la sûreté et la sécurité dans l'intelligence artificielle, nous examinerons la valeur et l'influence du Règlement général sur la protection des données (RGPD) de l'Union européenne entré en vigueur en 2018. Nous examinerons également le lien entre la fiabilité et la sécurité. Pour qu'un système soit sûr, il doit y avoir un certain niveau de fiabilité dans la performance et les décisions prises par le système. Une approche de gestion des risques peut être utilisée pour déterminer quelles procédures de test sont pertinentes pour un domaine donné et déterminer les risques que le système pourrait poser à des considérations importantes comme la protection de la vie privée et les droits de l’homme.

À la fin de ces leçons, vous apprendrez que la sécurité des systèmes d'IA est également liée à l'utilisation non autorisée des données ou du système d'IA. Vous découvrirez que l'utilisation non autorisée peut nuire aux créateurs et aux utilisateurs du système, ce qui explique pourquoi de nombreuses organisations envisagent la sécurité dès la conception dans la mise en œuvre de tout système d'IA.

Ce que vous allez apprendre

Comprendre les principes régissant la confidentialité, la sûreté et la sécurité de l'IA, y compris le Règlement Général sur la Protection des Données (RGPD) de l'UE entré en vigueur en 2018
Expliquer comment la fiabilité et la sécurité sont liées dans les systèmes d'IA
Décrire comment la surveillance peut détecter les risques potentiels et atténuer rapidement les dommages lorsqu'un système ne fonctionne pas comme souhaité
Évaluer les principes de sécurité pertinents d'un système d'IA, y compris les problèmes d'utilisation non autorisée des données
Appliquer les concepts de consentement, de portabilité des données, de limitation du traitement, de droit de rectification et de droit à l'effacement
Examiner les procédures de test et une approche de gestion des risques pour déterminer les risques qu'un système d'IA pourrait poser

Points clés à retenir

Le Règlement Général sur la Protection des Données (RGPD) de l'UE, entré en vigueur en 2018, aborde le consentement, la portabilité des données, la possibilité de restreindre le traitement, le droit de rectification et le droit à l'effacement.
Pour qu'un système d'IA soit sûr, il doit y avoir un certain niveau de fiabilité dans les performances et les décisions prises par le système.
La surveillance peut détecter les risques potentiels et atténuer rapidement les dommages si un système ne fonctionne pas comme souhaité, et la traçabilité est importante pour la sécurité.
Une approche de gestion des risques peut être utilisée pour déterminer les procédures de test pertinentes et identifier les risques que le système pourrait poser pour des considérations telles que la vie privée et les droits humains.
La sécurité des systèmes d'IA est liée à l'utilisation non autorisée des données ou du système, ce qui peut causer des dommages aux créateurs et aux utilisateurs, amenant de nombreuses organisations à envisager la sécurité dès la conception (security-by-design).

Foire aux questions

Quels sujets ce cours couvre-t-il ?

Il couvre la confidentialité, la sûreté et la sécurité dans l'intelligence artificielle, y compris le RGPD, le consentement, la portabilité des données, la limitation du traitement, le droit de rectification et d'effacement, la fiabilité et la sécurité, la surveillance, la traçabilité, les procédures de test et la sécurité des données et des résultats.

Que serai-je capable de faire après avoir terminé ce cours ?

Vous comprendrez les principes régissant la confidentialité, la sûreté et la sécurité de l'IA, expliquerez comment la fiabilité et la sécurité sont liées, décrirez comment la surveillance peut détecter les risques et atténuer les dommages, et évaluerez les principes de sécurité pertinents d'un système d'IA.

Que dit le cours sur le lien entre la fiabilité et la sécurité ?

Le cours explique que pour qu'un système soit sûr, il doit y avoir un certain niveau de fiabilité dans les performances et les décisions prises par le système.

Pourquoi la sécurité est-elle importante pour les systèmes d'IA selon ce cours ?

La sécurité des systèmes d'IA est liée à l'utilisation non autorisée des données ou du système d'IA, ce qui peut causer des préjudices aux créateurs et aux utilisateurs, raison pour laquelle de nombreuses organisations prennent en compte la sécurité dès la conception lors de la mise en œuvre.

Quelles leçons sont incluses dans ce cours ?

Les leçons sont : Consentement et Contrôle de l'Utilisation des Données ; Capacité à Restreindre le Traitement ; Droit de Rectification et d'Effacement ; Fiabilité et Résilience des systèmes d'IA ; Procédures de Test ; et Sécurité des Données et des Résultats.