Ética y responsabilidad de la IA: Responsabilidad profesional y control humano de la tecnología de IA

Name: Ética y responsabilidad de la IA: Responsabilidad profesional y control humano de la tecnología de IA
Author: Briana Brownell

Aprenda cómo el principio del control humano de la tecnología se cruza con el desarrollo del sistema de IA

Preview the first lesson free — get full access to all 5 lessons.

Solicitar una demo Iniciar sesión

Curso: bajo demanda

(música edificante) El control humano de la tecnología es un conjunto más general de principios que rigen los sistemas tecnológicos, y no solo son aplicables a los sistemas de IA. Sin embargo, los sistemas de IA tienen algunas consideraciones únicas que hacen que estos principios se apliquen en formas ligeramente diferentes en comparación con otros sistemas de TI. Una de las principales ventajas de implementar sistemas de IA es que permiten algunas dificultades o tomar decisiones que consumen mucho tiempo por un sistema informático en lugar de un humano, liberando tiempo o recursos para otras cosas. Pero al construir sistemas de decisión automatizados, cambiamos el control de las decisiones de humanos a un sistema de IA. Como resultado, podemos preguntarnos si esto también traslada la responsabilidad del ser humano al sistema de IA. Sabemos de los principios de gobernanza que la rendición de cuentas indelegables del órgano de gobierno, por lo que depende de este organismo garantizar que la ética y la rendición de cuentas se consideran en el uso del sistema de IA. Es esencial que los humanos son capaces de revisar las decisiones tomadas por un sistema de IA. Este principio mira a los individuos que están trabajando con el sistema de IA. En lugar de ser relevante después de que un sistema de IA toma una decisión, particularmente cuando el sistema proporciona una objeción o resultado injusto, el principio se centra en que un ser humano revise la decisión automatizada antes de que sea emitido por el sistema AI. Por lo general, estas situaciones son aquellas en las que el impacto del sistema de IA es significativo. Esto proporciona una segunda verificación para asegurarse de que la IA las decisiones del sistema son apropiadas. Hay una serie de principios relacionados que parecen en el impacto en los individuos que están siendo evaluados por los sistemas de IA, pero este principio se refiere principalmente con la interacción interna de los diseñadores o auditores con el sistema de IA.

Intermedio Proveedor : Briana Brownell 5 lecciones · 8m en Árabe, Alemán, Inglés, Español, Francés, Portugués, Chinese

Descripción del curso

En estas lecciones sobre Responsabilidad profesional y control humano de la IA, aprenderá sobre el principio general del control humano de la tecnología y cómo se cruza con el desarrollo del sistema de IA. También verá cómo la responsabilidad de los diseñadores está vinculada a la gobernanza del sistema de IA y la colaboración de múltiples partes interesadas para permitir comentarios valiosos sobre el diseño del sistema y su impacto en varios grupos de partes interesadas.

El control humano de la tecnología es un conjunto más general de principios que rigen los sistemas tecnológicos en general. Al construir sistemas de decisión automatizados, cambiamos el control de esas decisiones de un sistema humano a un sistema de IA. Como tal, es esencial considerar por qué y cuándo los humanos deben revisar las decisiones de un sistema de IA. En estas lecciones explorará el principio de la capacidad de intervención humana, incluida la forma en que los humanos pueden tomar la decisión de qué acciones delegar a un sistema tecnológico. También comprenderá por qué los sistemas de IA deberían permitir que los humanos intervengan en las decisiones y acciones tomadas por el sistema.

Debido a que los profesionales que trabajan en el diseño, creación e implementación de sistemas de IA tienen un punto de vista único, pueden ver un sistema de IA de una manera que otros no pueden. Aprenderá cómo la responsabilidad de los diseñadores como principio está vinculada a la gobernanza de los sistemas de IA. También obtendrá una visión general de la responsabilidad de los diseñadores de un sistema de IA, incluidos los impactos a largo plazo de un sistema de IA.

Finalmente, aprenderá sobre la colaboración de múltiples partes interesadas como una forma de escuchar las preocupaciones sobre el diseño del sistema y su impacto en varios grupos de partes interesadas, así como la importancia de la colaboración internacional en el desarrollo de sistemas de IA.

Lo que aprenderás

Comprender el amplio principio del control humano de la tecnología y cómo se cruza con el desarrollo del sistema de IA
Explicar por qué y cuándo los humanos deben revisar las decisiones de un sistema de IA
Aplicar el principio de capacidad para intervención humana, incluyendo decidir qué acciones delegar a un sistema de tecnología
Describir las responsabilidades únicas de los diseñadores y cómo esa responsabilidad se vincula a la gobernanza del sistema de IA
Evaluar los impactos a largo plazo de un sistema de IA desde el punto de vista del diseñador
Describir la colaboración multistakeholder como una manera de reunir retroalimentación sobre el diseño del sistema y su impacto en los grupos de partes interesadas

Puntos clave

El control humano de la tecnología es un conjunto general de principios que rigen los sistemas de tecnología, y se cruza con cómo se desarrollan los sistemas de IA.
Construir sistemas de decisión automatizados desplaza el control de esas decisiones de un humano a un sistema de IA, haciendo esencial considerar por qué y cuándo los humanos deben revisar las decisiones del sistema.
Los sistemas de IA deben permitir que los humanos intervengan en las decisiones y acciones que realiza el sistema, y los humanos deciden qué acciones delegar a un sistema de tecnología.
Los profesionales que trabajan en el diseño, creación e implementación de sistemas de IA tienen un punto de vista único, por lo que la responsabilidad de los diseñadores está vinculada a la gobernanza de sistemas de IA y los impactos a largo plazo del sistema.
La colaboración multistakeholder e internacional ayuda a sacar a la luz preocupaciones sobre el diseño del sistema y su impacto en varios grupos de partes interesadas.

Preguntas frecuentes

¿Qué cubre este curso?

Cubre responsabilidad profesional y control humano de IA, incluyendo revisión humana de decisiones, capacidad para intervención humana, responsabilidad de diseñadores, impactos a largo plazo de sistemas de IA y colaboración multistakeholder.

¿Para quién es este curso?

Está dirigido a profesionales que trabajan en el diseño, creación e implementación de sistemas de IA, que tienen un punto de vista único sobre cómo funciona un sistema de IA.

¿Qué habilidades ganaré?

El curso desarrolla habilidades en responsabilidad, responsabilidad profesional, inteligencia artificial y sistemas de IA, desarrollo de IA y definición de roles y responsabilidades.

¿Cuáles son los objetivos de aprendizaje principales?

Comprender la relación de la IA con el control humano de la tecnología, comprender las responsabilidades únicas de los diseñadores y describir la colaboración multistakeholder para sistemas de IA éticos.

¿Por qué se enfatiza la intervención humana en este curso?

Porque construir sistemas de decisión automatizados desplaza el control de humanos a sistemas de IA, el curso explica por qué los sistemas de IA deben permitir que los humanos intervengan y cómo los humanos deciden qué acciones delegar a un sistema de tecnología.