Ética y responsabilidad de la IA: Incidentes críticos de inteligencia artificial

Name: Ética y responsabilidad de la IA: Incidentes críticos de inteligencia artificial
Author: Briana Brownell

Conozca los resultados negativos de la IA mediante estudios de casos específicos

Preview the first lesson free — get full access to all 3 lessons.

Curso: bajo demanda

Ha habido numerosos incidentes. donde se han desplegado sistemas de inteligencia artificial con importantes implicaciones éticas. Muchos de estos incidentes implican prejuicios y discriminación. Históricamente, sesgo y conjuntos de datos y la construcción de modelos se consideró un problema menor, subordinado a la precisión del modelo, pero varios incidentes significativos han hecho que los profesionales sean más conscientes de las cuestiones y los requisitos éticos que deberían estar aplicando en sus diseños de sistemas. Consideremos dos casos de parcialidad y discriminación. En 2014, Amazon estaba tratando de crear un sistema de IA que ayudaría a sus gerentes de contratación más fácilmente identificar a los mejores candidatos para el puesto. Para ello, la empresa comenzó a construir una herramienta que podría automatizar la revisión de currículos y use palabras clave para identificar a los mejores candidatos. La empresa usó datos de currículos y Amazon contrata en los últimos 10 años como parte de un modelo de aprendizaje automático supervisado codificar esencialmente la empresa prácticas de contratación anteriores en un sistema de IA automatizado. De lo que no se dieron cuenta es que las decisiones de los gerentes de contratación en el pasado había sido discriminatoria. Por lo tanto, el sistema de IA codificaba esta discriminación en el sistema que estaban construyendo. La empresa finalmente reconoció que la máquina modelo de aprendizaje discriminaba a las mujeres, perpetuando un sesgo que estaba presente en sus datos de entrenamiento. Rebajaba los currículos con palabras como mujer, como los que pueden aparecer en una declaración de currículum como capitana de la selección femenina de fútbol y menciones de ciertos colegios de mujeres. Debido a que la fuerza laboral de Amazon era abrumadoramente masculina, los alumnos de estas universidades eran raros o inexistentes en el conjunto de entrenamiento. El sistema de IA aprendió que los graduados de estas universidades eran indeseables. Si la empresa tenía la intención o no de discriminar contra las candidatas, el uso de un algoritmo que elimina injustamente candidatos de un género, raza o religión en particular es ilegal. la empresa negó que la herramienta había sido utilizada exclusivamente para evaluar candidatos y descontinuó su uso después de que salieran a la luz los problemas de discriminación. Otro problema común en la discriminación de AI y el sesgo tiene que ver con la raza en relación con el subtitulado y clasificación de imágenes. Durante su investigación sobre el reconocimiento facial La estudiante de posgrado del MIT, Joy Buolamwini, encontró que las herramientas de IA que estaba usando tenían dificultades reconociendo su rostro. Como una mujer negra, su desafío al usar el reconocimiento facial era común. Muchos sistemas de reconocimiento facial están entrenados en datos que contiene más hombres blancos en comparación con otros grupos. Como resultado estos sistemas son mucho menos precisos para ciertos grupos. Ella no pudo usar la tecnología tan fácilmente. como sus compañeros varones blancos. Los problemas con la clasificación de imágenes son generalizados. Los sistemas de subtítulos de imágenes pueden perpetuar el sesgo que ya puede existir en los datos de entrenamiento. Como en el ejemplo del sistema de contratación de Amazon. En 2020, mientras la pandemia se extendía por todo el mundo, Se animó a los ciudadanos a tomarse la temperatura para ver si tenían fiebre, uno de los principales síntomas de covid. Una de las formas más comunes de medir la fiebre. era un termómetro de mano. Pero cuando Cloud Vision de Google produjo leyendas de imágenes para las personas que tengan uno de estos dispositivos, fotografías con manos de piel oscura fueron subtítulos que contenían armas. Mientras que las fotos de personas asiáticas sosteniéndolos fueron etiquetadas como dispositivo electrónico. Incluso cuando una imagen idéntica de una mano sosteniendo el dispositivo se usó y el color de la piel cambió, el dispositivo se mantuvo por la mano de piel más oscura fue subtitulado como un arma, mientras que el dispositivo en la mano de piel clara fue subtitulado como una herramienta. Estos ejemplos ilustran la importancia de usar conjuntos de datos imparciales para el entrenamiento y para garantizar que los sistemas no perpetúen y escalar sesgos humanos del pasado.

Intermedio Proveedor : Briana Brownell 3 lecciones · 14m en Árabe, Alemán, Inglés, Español, Francés, Portugués, Chinese

Descripción del curso

Estas lecciones sobre incidentes críticos de la inteligencia artificial analizan incidentes significativos de IA mediante una serie de ejemplos del mundo real de resultados negativos en IA, cómo se resolvieron y cómo podrían haberse evitado. Específicamente, veremos estudios de casos centrados en cuestiones de identidad y discriminación, contenido ofensivo e implicaciones legales. Primero revisará un caso de discriminación en la contratación de IA donde se excluyó a las solicitantes femeninas, y luego verá un caso de IA de imagen sesgada que resultó en descripciones de fotos ofensivas.

La segunda serie de estudios de caso incluye una generación y amplificación del contenido ofensivo en plataformas populares de Internet debido a malos actores. A través de los estudios de caso finales, explorará casos en los que los sistemas de IA se cruzan con la ley, y conocerá las implicaciones legales de tales interacciones.

Lo que aprenderás

Describir las formas en que los sistemas de IA pueden fallar o ser problemáticos
Reconocer los problemas éticos que plantean los casos de uso reales de IA
Examinar fallos de IA que involucran identidad y discriminación a través de estudios de casos
Analizar cómo los sistemas de IA generan o amplifican contenido ofensivo
Explorar casos donde los sistemas de IA se cruzan con la ley y sus implicaciones legales
Aprender de incidentes anteriores de IA para comprender cómo fueron resueltos y prevenidos

Puntos clave

El curso estudia incidentes significativos de IA a través de ejemplos del mundo real de resultados negativos, examinando cómo fueron resueltos y cómo podrían haber sido prevenidos.
Los estudios de casos cubren identidad y discriminación, incluyendo una IA de contratación que excluyó a candidatas mujeres y una IA de imagen sesgada que produjo descripciones de fotos ofensivas.
Una serie de estudios de casos aborda la generación y amplificación de contenido ofensivo en plataformas populares de internet causado por actores maliciosos.
Los estudios de casos finales exploran cómo los sistemas de IA se cruzan con la ley y las implicaciones legales de esas interacciones.
Las lecciones tienen como objetivo construir la comprensión de la ética de la IA aprendiendo de problemas pasados con la IA.

Preguntas frecuentes

¿Qué cubre este curso?

Examina incidentes significativos de IA a través de estudios de casos reales de resultados negativos, enfocándose en identidad y discriminación, contenido ofensivo e implicaciones legales, incluyendo cómo fueron resueltos los incidentes y cómo podrían haber sido prevenidos.

¿Qué ejemplos del mundo real se discuten?

Los ejemplos incluyen un caso de discriminación de contratación de IA donde las candidatas mujeres fueron excluidas, una IA de imagen sesgada que produjo descripciones de fotos ofensivas, la amplificación de contenido ofensivo en plataformas populares de internet por actores maliciosos, y casos donde los sistemas de IA se cruzan con la ley.

¿Qué podré hacer después de tomar este curso?

Podrás describir formas en que los sistemas de IA pueden fallar o ser problemáticos, reconocer los problemas que involucran la ética de la IA en casos de uso del mundo real, y aprender de problemas pasados con la IA.

¿Qué temas o lecciones se incluyen?

Las lecciones son Problemas de IA en Identidad y Discriminación, IA y Contenido Ofensivo, e IA Traductores e Implicaciones Legales.

¿Qué habilidades desarrolla este curso?

Desarrolla habilidades en Aplicaciones de Inteligencia Artificial, Sistemas de Inteligencia Artificial, Inteligencia Artificial, Desarrollo de Inteligencia Artificial, Ética de Datos e Inteligencia Artificial Explicable (XAI).