Ética e responsabilidade da IA: Incidentes críticos de inteligência artificial

Name: Ética e responsabilidade da IA: Incidentes críticos de inteligência artificial
Author: Briana Brownell

Saiba mais sobre os resultados negativos da IA através de estudos de casos específicos

Preview the first lesson free — get full access to all 3 lessons.

Curso: sob demanda

Houve vários incidentes onde sistemas de inteligência artificial foram implantados com importantes implicações éticas. Muitos desses incidentes envolvem preconceito e discriminação. Historicamente, preconceitos e conjuntos de dados e a construção de modelos foi considerada uma questão menor, subordinada à precisão do modelo, mas vários incidentes significativos tornaram os profissionais mais conscientes das questões e dos requisitos éticos que eles deveriam estar aplicando em seus projetos de sistema. Vamos considerar dois casos de preconceito e discriminação. Em 2014, a Amazon estava tentando criar um sistema de IA isso ajudaria seus gerentes de contratação mais facilmente identificar os principais candidatos ao emprego. Para isso, a empresa começou a construir uma ferramenta que poderia automatizar a revisão de currículos e use palavras-chave para identificar os principais candidatos. A empresa usou dados sobre currículos e contratações da Amazon nos últimos 10 anos como parte de um modelo de aprendizado de máquina supervisionado para essencialmente codificar a empresa práticas de contratação anteriores em um sistema automatizado de IA. O que eles não perceberam foi que as decisões dos gerentes de contratação no passado tinha sido discriminatório. O sistema de IA estava, portanto, codificando essa discriminação no sistema que estavam construindo. A empresa acabou reconhecendo que a máquina modelo de aprendizagem era discriminatório contra as mulheres, perpetuando um viés que estava presente em seus dados de treinamento. Foi rebaixar currículos com palavras como mulheres, como aqueles que podem ocorrer em uma declaração de currículo como capitã do time de futebol feminino e menções de certas faculdades femininas. Como a força de trabalho da Amazon era predominantemente masculina, ex-alunos dessas faculdades eram raros ou inexistentes no conjunto de treinamento. O sistema de IA aprendeu que os graduados dessas faculdades eram indesejáveis. Se a empresa pretendia ou não discriminar contra candidatos do sexo feminino, o uso de um algoritmo que remove candidatos injustamente de um gênero, raça ou religião em particular é ilegal. A empresa negou que a ferramenta havia sido utilizada exclusivamente para avaliar candidatos e descontinuou seu uso depois que os problemas de discriminação vieram à tona. Outro problema comum na discriminação de IA e preconceito tem a ver com raça em relação à legenda e classificação de imagens. Durante sua pesquisa sobre reconhecimento facial A estudante de pós-graduação do MIT, Joy Buolamwini, foi encontrada que as ferramentas de IA que ela usava tinham dificuldade reconhecendo seu rosto. Como mulher negra, seu desafio de usar o reconhecimento facial era comum. Muitos sistemas de reconhecimento facial são treinados em dados que contém mais homens brancos em comparação com outros grupos. Como resultado esses sistemas são muito menos precisos para certos grupos. Ela não foi capaz de usar a tecnologia tão facilmente como seus colegas homens brancos. Os problemas com a classificação de imagens são generalizados. Os sistemas de legendas de imagens podem perpetuar o viés que já podem existir nos dados de treinamento. Como no exemplo do sistema de contratação da Amazon. Em 2020, enquanto a pandemia assolava o mundo, os cidadãos foram encorajados a medir a temperatura para ver se eles estavam com febre, um dos principais sintomas da covid. Uma das formas mais comuns de medir a febre era um termômetro de mão. Mas quando o Cloud Vision do Google produziu legendas de imagens para pessoas segurando um desses dispositivos, fotografias com mãos de pele escura foram legendadas como contendo armas. Enquanto as fotos de pessoas asiáticas segurando-os foram rotuladas como um dispositivo eletrônico. Mesmo quando uma imagem idêntica de uma mão segurando o dispositivo foi usado e a cor da pele mudou, o dispositivo segurou pela mão de pele mais escura foi legendado como uma arma, enquanto o dispositivo na mão de pele clara foi legendado como uma ferramenta. Esses exemplos ilustram a importância de usar conjuntos de dados imparciais para treinamento e por garantir que os sistemas não perpetuem e dimensionar preconceitos humanos do passado.

Intermediário Fornecedor : Briana Brownell 3 lições · 14m em Árabe, Alemão, Inglês, Espanhol, Francês, Português, Chinese

Descrição do curso

Estas lições sobre Incidentes Críticos de Inteligência Artificial analisam incidentes significativos de IA através de uma série de exemplos do mundo real de resultados negativos na IA, como foram resolvidos e como poderiam ter sido evitados. Especificamente, trabalhará com estudos de caso centrados em questões de identidade e discriminação, conteúdo ofensivo e implicações legais. Primeiro, analisará um caso de discriminação na contratação de IA em que foram excluídas candidatas do sexo feminino e, em seguida, analisará um caso de IA de imagens tendenciosas que resultou em descrições de fotografias ofensivas.

A segunda série de estudos de casos inclui a geração e amplificação de conteúdos ofensivos em plataformas populares da Internet devido a maus actores. Através dos estudos de caso finais, explorará casos em que os sistemas de IA se cruzam com a lei e obterá informações sobre as implicações legais de tais interacções.

O Que Você Vai Aprender

Descrever as formas pelas quais os sistemas de IA podem falhar ou ser problemáticos
Reconhecer as questões éticas levantadas pelos casos de uso de IA no mundo real
Examinar falhas de IA envolvendo identidade e discriminação através de estudos de caso
Analisar como sistemas de IA geram ou amplificam conteúdo ofensivo
Explorar casos onde sistemas de IA se cruzam com a lei e suas implicações legais
Aprender com incidentes anteriores de IA para entender como foram resolvidos e prevenidos

Principais Conclusões

O curso estuda incidentes significativos de IA através de exemplos do mundo real de resultados negativos, examinando como foram resolvidos e como poderiam ter sido prevenidos.
Estudos de caso cobrem identidade e discriminação, incluindo uma IA de contratação que excluía candidatas do sexo feminino e uma IA de imagem enviesada que produzia descrições de fotos ofensivas.
Uma série de estudos de caso aborda a geração e amplificação de conteúdo ofensivo em plataformas populares da internet causadas por maus atores.
Os estudos de caso finais exploram como sistemas de IA se cruzam com a lei e as implicações legais dessas interações.
As aulas têm como objetivo construir a compreensão da ética de IA aprendendo com problemas passados com IA.

Perguntas Frequentes

O que este curso abrange?

Examina incidentes significativos de IA através de estudos de caso no mundo real de resultados negativos, focando em identidade e discriminação, conteúdo ofensivo e implicações legais, incluindo como os incidentes foram resolvidos e como poderiam ter sido prevenidos.

Quais exemplos do mundo real são discutidos?

Os exemplos incluem um caso de discriminação de IA em contratação onde candidatas do sexo feminino foram excluídas, uma IA de imagem enviesada que produzia descrições de fotos ofensivas, a amplificação de conteúdo ofensivo em plataformas populares da internet por maus atores, e casos onde sistemas de IA se cruzam com a lei.

O que poderei fazer depois de fazer este curso?

Você será capaz de descrever formas pelas quais sistemas de IA podem falhar ou ser problemáticos, reconhecer as questões envolvendo ética de IA em casos de uso no mundo real, e aprender com problemas passados com IA.

Quais tópicos ou aulas estão inclusos?

As aulas são Questões de IA em Identidade e Discriminação, IA e Conteúdo Ofensivo, e Tradutores de IA e Implicações Legais.

Quais habilidades este curso desenvolve?

Desenvolve habilidades em Aplicações de Inteligência Artificial, Sistemas de Inteligência Artificial, Inteligência Artificial, Desenvolvimento de Inteligência Artificial, Ética de Dados e Inteligência Artificial Explicável (XAI).