Ética y responsabilidad en la IA: la responsabilidad en la IA

Name: Ética y responsabilidad en la IA: la responsabilidad en la IA
Author: Briana Brownell

Descubra cómo se pueden evaluar los sistemas de IA utilizando principios de la rendición de cuentas

Preview the first lesson free — get full access to all 4 lessons.

Curso: bajo demanda

(música brillante) En esencia, la rendición de cuentas es una pieza fundamental de la ética de la IA. La rendición de cuentas es relevante en todas las etapas del ciclo de vida de un sistema de IA, incluso durante el diseño y después del despliegue. Así como cuando se produzca algún daño como consecuencia del sistema. Es fácil imaginar un sistema de IA para el que ningún ser humano asume la responsabilidad de las decisiones tomadas por el sistema y por lo tanto nadie es responsable. De hecho, hay muchos sistemas de este tipo. que ya han sido creados. Pero el principio de responsabilidad dice que siempre debe haber un cuerpo de gobierno de humanos que son responsables del sistema de IA en todas sus etapas. Tener una política clara para la rendición de cuentas es especialmente importante cuando las tecnologías tienen el potencial para impactar a los humanos en una escala enorme. Y hay varios principios específicos adicionales que son importantes para la rendición de cuentas. Validación, evaluación y auditoría. La validación del modelo es una parte importante de la construcción cualquier sistema de IA. Las decisiones de diseño que se toman por el equipo que construye el modelo. Cómo, cuándo y qué datos se recopilan. Decisiones sobre limpieza de datos y exclusión de valores atípicos. Combinar y vincular fuentes de datos. Tratamiento de variables faltantes. Tener un impacto demostrable en el modelo final. Incluso qué método de modelado se utiliza y por qué puede hacer una gran diferencia en el impacto real del modelo en el momento del despliegue. La validación y la evaluación pueden incluir comprobaciones técnicas para ver qué tan preciso o robusto podría ser un modelo predictivo, incluyendo la identificación de falsos positivos y falsos negativos. También podría incluir la evaluación y el seguimiento que se realiza después de que se implementa la IA, junto con las decisiones tomadas en base a este desempeño. Por esta razón, las organizaciones están buscando formas para validar, evaluar y auditar externamente sus sistemas. Esto sugiere que en algunos casos, podría haber un organismo de control externo. Existe un debate sobre si este organismo de control sería interno a la organización o un grupo externo. Ambas posibilidades brindan desafíos a las organizaciones. buscando validación externa. Algunos países han sugerido normas nacionales o grupos que puedan asumir este rol. La validación, la evaluación y la auditoría son importantes componentes dentro de un marco de ética de IA adecuado. Pero las organizaciones deben ser proactivas para garantizar que estos principios sean sistematizados y creados explícitamente como parte de los procesos. Esto garantizaría la responsabilidad en el diseño, despliegue y evaluación de los sistemas de IA que construyeron.

Intermedio Proveedor : Briana Brownell 4 lecciones · 8m en Árabe, Alemán, Inglés, Español, Francés, Portugués, Chinese

Descripción del curso

La rendición de cuentas es una parte fundamental de la ética en la IA, y es relevante en todas las etapas del ciclo de vida de un sistema de IA, incluso durante el diseño, después del despliegue, así como cuando se produce algún daño debido al sistema. En estas lecciones sobre Rendición de cuentas en la IA, aprenderá cómo se pueden evaluar los sistemas de IA utilizando principios de la rendición de cuentas, junto con las reformas regulatorias y los marcos legales y su intersección con la rendición de cuentas.

Los sistemas complejos, aunque más difíciles de evaluar, son especialmente importantes de analizar para determinar los posibles impactos y daños. Aprenderá cómo se pueden evaluar los sistemas de IA, incluidas las evaluaciones de impacto en los derechos humanos (EIDH), y por qué es especialmente importante realizar evaluaciones de impacto preventivas, para que se pueda mitigar cualquier daño potencial.

Hay varios principios adicionales y específicos que son importantes para la rendición de cuentas, incluida la validación, la evaluación y la auditoría. Estas lecciones cubrirán la rendición de cuentas y varios principios importantes: la capacidad de apelar una decisión tomada por una IA y la capacidad de desafiar el uso del sistema de IA para tomar esa decisión.

Por último, en algunos ámbitos se están llevando a cabo crecientes reformas regulatorias y un trabajo jurídico más sólido en términos de rendición de cuentas. Pero no está claro qué regulaciones actuales son apropiadas para los sistemas de IA. Discutiremos por qué el cumplimiento normativo es una consideración extremadamente importante para las organizaciones, y las consideraciones legales y de responsabilidad en el diseño, desarrollo e implementación de sistemas de IA.

Lo que aprenderás

Describe cómo los sistemas de IA pueden ser evaluados usando principios de responsabilidad, incluyendo Evaluaciones de Impacto en Derechos Humanos (EIDH)
Identifica problemas alrededor de reformas regulatorias y marcos legales relevantes a la responsabilidad de la IA
Explica cómo la responsabilidad es importante a la ética de la IA en todo el ciclo de vida del sistema de IA
Aplica principios de validación, evaluación y auditoría cuando se evalúan sistemas de IA
Evalúa la capacidad de apelar y desafiar decisiones hechas por un sistema de IA
Examina consideraciones de responsabilidad y legales alrededor del diseño, desarrollo e implementación del sistema de IA

Puntos clave

La responsabilidad es relevante en todas las etapas del ciclo de vida de un sistema de IA, incluyendo diseño, después de la implementación y cuando ocurre daño.
Los sistemas complejos son más difíciles de evaluar pero especialmente importantes de analizar para impactos y daños potenciales.
Evaluaciones de impacto preventivo, como Evaluaciones de Impacto en Derechos Humanos, ayudan a mitigar daño potencial antes de que suceda.
La responsabilidad incluye la capacidad de apelar una decisión de IA y desafiar el uso de un sistema de IA para hacer esa decisión.
El cumplimiento regulatorio es una consideración importante para las organizaciones, aunque es incierto qué regulaciones actuales son apropiadas para sistemas de IA.

Preguntas frecuentes

¿Qué cubre este curso?

Cubre responsabilidad en IA, incluyendo cómo los sistemas de IA pueden ser evaluados usando principios de responsabilidad, Evaluaciones de Impacto en Derechos Humanos (EIDH), validación, evaluación y auditoría, la capacidad de apelar y desafiar decisiones de IA y reformas regulatorias, marcos legales y consideraciones de responsabilidad.

¿Qué aprenderé sobre la evaluación de sistemas de IA?

Aprenderás cómo los sistemas de IA pueden ser evaluados, incluyendo el uso de Evaluaciones de Impacto en Derechos Humanos (EIDH) y por qué es importante realizar evaluaciones de impacto preventivo para que se pueda mitigar el daño potencial.

¿Qué temas se incluyen en las lecciones?

Las lecciones cubren Validación, Evaluación y Auditoría; Evaluando el Impacto de Sistemas de IA; Capacidad de Apelación y Consideraciones de Responsabilidad y Legales.

¿Qué dice el curso sobre regulación y responsabilidad?

Algunas áreas están viendo reformas regulatorias crecientes y marcos legales más robustos para la responsabilidad, pero es incierto qué regulaciones actuales son apropiadas para sistemas de IA. El curso discute por qué el cumplimiento regulatorio es una consideración extremadamente importante para las organizaciones, junto con consideraciones de responsabilidad y legales alrededor del diseño, desarrollo e implementación del sistema de IA.

¿A qué habilidades se relaciona este curso?

Se relaciona a Responsabilidad, Ética Aplicada, Ética de Datos, Ética de Ingeniería, Integridad Referencial y Responsabilidad Social.