Éthique et responsabilité de l’IA : responsabilité professionnelle et contrôle humain de la technologie d’IA

Name: Éthique et responsabilité de l’IA : responsabilité professionnelle et contrôle humain de la technologie d’IA
Author: Briana Brownell

Découvrez comment le principe du contrôle humain de la technologie se croise avec le développement de systèmes d'IA

Preview the first lesson free — get full access to all 5 lessons.

Demander une démo Se connecter

Cours : à la demande

(musique entraînante) Le contrôle humain de la technologie est un ensemble plus général des principes qui régissent les systèmes technologiques, et ils ne s'appliquent pas seulement aux systèmes d'IA. Cependant, les systèmes d'IA ont des considérations uniques qui font que ces principes s'appliquent de manière légèrement différente par rapport aux autres systèmes informatiques. L'un des avantages majeurs de la mise en œuvre des systèmes d'IA est qu'ils permettent des ou des décisions chronophages à prendre par un système informatique plutôt qu'un humain, libérant du temps ou des ressources pour d'autres choses. Mais en construisant des systèmes de décision automatisés, nous transférons le contrôle des décisions de l'humain à un système d'IA. Par conséquent, on peut se demander si cela aussi déplace la responsabilité de l'humain vers le système d'IA. Nous savons des principes de gouvernance que la responsabilité ne peut être déléguée par l'organe directeur, c'est donc à cet organe de veiller à ce que l'éthique et la responsabilité sont pris en compte dans l'utilisation du système d'IA. Il est essentiel que les humains sont capables de revoir les décisions prises par un système d'IA. Ce principe concerne les individus qui travaillent avec le système d'IA. Au lieu d'être pertinent après qu'une décision a été prise par un système d'IA, en particulier lorsque le système fournit une information répréhensible ou résultat injuste, le principe se concentre sur le fait qu'un humain examine la décision automatisée avant qu'il ne soit émis par le système d'IA. Généralement, ces situations sont celles où l'impact du système d'IA est important. Cela fournit une deuxième vérification pour s'assurer que l'IA les décisions du système sont appropriées. Il existe un certain nombre de principes connexes qui semblent à l'impact sur les individus évalués par les systèmes d'IA, mais ce principe concerne principalement avec l'interaction interne des concepteurs ou des auditeurs avec le système d'IA.

Intermédiaire Fournisseur : Briana Brownell 5 leçons · 8m en Arabe, Allemand, Anglais, Espagnol, Français, Portugais, Chinese

Description du cours

Dans ces leçons sur la responsabilité professionnelle et le contrôle humain de l'IA, vous apprendrez le principe général du contrôle humain de la technologie et comment il recoupe le développement de systèmes d'IA. Vous verrez également comment la responsabilité des concepteurs est liée à la gouvernance du système d'IA et à la collaboration multipartite afin de permettre une rétroaction précieuse sur la conception du système et son impact sur divers groupes de parties prenantes.

Le contrôle humain de la technologie est un ensemble plus général de principes qui régissent les systèmes technologiques en général. En construisant des systèmes de décision automatisés, nous transférons le contrôle de ces décisions d'un système humain à un système d'IA. Il est donc essentiel de se demander pourquoi et quand les humains doivent examiner les décisions d'un système d'IA. Dans ces leçons, vous explorerez le principe de la capacité d'intervention humaine, y compris la façon dont les humains peuvent prendre la décision des actions à déléguer à un système technologique. Vous comprendrez également pourquoi les systèmes d'IA devraient permettre aux humains d'intervenir dans les décisions et les actions prises par le système.

Parce que les professionnels qui travaillent dans la conception, la création et la mise en œuvre de systèmes d'IA ont un point de vue unique, ils peuvent voir un système d'IA d'une manière que les autres ne peuvent pas. Vous apprendrez comment la responsabilité des concepteurs en tant que principe est liée à la gouvernance des systèmes d'IA. Vous aurez également un aperçu de la responsabilité des concepteurs d'un système d'IA, y compris les impacts à long terme d'un système d'IA.

Enfin, vous en découvrirez la collaboration multipartite comme moyen d'entendre les préoccupations concernant la conception du système et son impact sur divers groupes de parties prenantes, ainsi que l'importance de la collaboration internationale pour le développement de systèmes d'IA.

Ce que vous allez apprendre

Comprendre le principe général du contrôle humain de la technologie et la façon dont il recoupe le développement des systèmes d'IA
Expliquer pourquoi et quand les humains doivent examiner les décisions d'un système d'IA
Appliquer le principe de capacité d'intervention humaine, y compris décider quelles actions déléguer à un système technologique
Décrire les responsabilités uniques des concepteurs et comment cette responsabilité est liée à la gouvernance des systèmes d'IA
Évaluer les impacts à long terme d'un système d'IA du point de vue du concepteur
Décrire la collaboration multipartite (multistakeholder) comme un moyen de recueillir des commentaires sur la conception du système et son impact sur les groupes de parties prenantes

Points clés à retenir

Le contrôle humain de la technologie est un ensemble général de principes qui régissent les systèmes technologiques, et il recoupe la façon dont les systèmes d'IA sont développés.
La construction de systèmes de décision automatisés transfère le contrôle de ces décisions d'un humain à un système d'IA, ce qui rend essentiel de considérer pourquoi et quand les humains devraient examiner les décisions du système.
Les systèmes d'IA doivent permettre aux humains d'intervenir dans les décisions et les actions du système, et ce sont les humains qui décident quelles actions déléguer à un système technologique.
Les professionnels travaillant dans la conception, la création et la mise en œuvre de systèmes d'IA ont un point de vue unique. La responsabilité des concepteurs est donc liée à la gouvernance des systèmes d'IA et aux impacts à long terme du système.
La collaboration multipartite et internationale permet de faire remonter les préoccupations concernant la conception du système et son impact sur les différents groupes de parties prenantes.

Foire aux questions

Que couvre ce cours ?

Il couvre la responsabilité professionnelle et le contrôle humain de l'IA, y compris l'examen humain des décisions, la capacité d'intervention humaine, la responsabilité des concepteurs, les impacts à long terme des systèmes d'IA, et la collaboration multipartite (multistakeholder).

À qui s'adresse ce cours ?

Il s'adresse aux professionnels travaillant dans la conception, la création et la mise en œuvre de systèmes d'IA, qui ont un point de vue unique sur le fonctionnement d'un système d'IA.

Quelles compétences vais-je acquérir ?

Le cours développe des compétences en matière de responsabilisation (accountability), de responsabilité professionnelle, d'intelligence artificielle et de systèmes d'IA, de développement de l'IA, et de définition des rôles et des responsabilités.

Quels sont les principaux objectifs d'apprentissage ?

Comprendre la relation de l'IA avec le contrôle humain de la technologie, comprendre les responsabilités uniques des concepteurs, et décrire la collaboration multipartite (multistakeholder) pour des systèmes d'IA éthiques.

Pourquoi l'intervention humaine est-elle soulignée dans ce cours ?

Parce que la construction de systèmes de décision automatisés transfère le contrôle des humains vers les systèmes d'IA, le cours explique pourquoi les systèmes d'IA doivent permettre aux humains d'intervenir et comment les humains décident quelles actions déléguer à un système technologique.