Ética e responsabilidade da IA: Desafios únicos da IA e do aprendizado de máquina

Name: Ética e responsabilidade da IA: Desafios únicos da IA e do aprendizado de máquina
Author: Briana Brownell

Aprenda como a aprendizagem automática apresenta desafios éticos diferentes de outras formas de desenvolvimento de software.

Preview the first lesson free — get full access to all 5 lessons.

Solicitar uma demonstração Entrar

Curso: sob demanda

(música suave) O aprendizado de máquina apresenta alguns desafios únicos em termos de ética e responsabilidade. De muitas maneiras, os sistemas de decisão que usam aprendizado de máquina são mais difíceis de abordar do que outras formas de desenvolvimento de software. Começaremos com o tipo mais comum de aprendizado de máquina. A aprendizagem supervisionada é quase certamente o estilo mais comum de aprendizado de máquina usado atualmente. Existem muitos casos de uso para esse tipo de aprendizado, como prever quais fatores mais influenciam a experiência do cliente, prever e prevenir a rotatividade de clientes, que se refere à perda de clientes, prever o sucesso de uma estratégia de marketing para otimizar o gasto do canal, projetar o uso do sistema ou o tráfego de pedestres, ou prever o comportamento do usuário e dando um empurrãozinho para mudá-lo. Observe que todos esses casos tem algum tipo de resultado previsto. Esse é o diferencial entre supervisionado aprendizado de máquina e outros tipos que analisaremos. Essas previsões e suas ações subsequentes são baseados em dados coletados e muitas das considerações éticas dizem respeito a esses dados. Ainda outros se relacionam com o impacto da previsão, que é exclusivo do aprendizado de máquina supervisionado. Existem considerações técnicas e não técnicas sobre ética e responsabilidade que são especialmente aplicáveis a modelos de aprendizagem supervisionada. Em termos de considerações técnicas, alguns métodos de aprendizagem supervisionada são especialmente susceptíveis à influência de outliers no conjunto de dados. Portanto, quando são coletados dados que contêm esses erros, o modelo geral pode ter um bom desempenho no treinamento, mas falham na implantação. Às vezes sabemos disso antes do tempo quando o modelo preditivo funciona mal com um conjunto de teste, mas geralmente não sabemos até a implantação. Isso adiciona vários riscos adicionais em torno do impacto do sistema em termos de parcialidade e justiça. O aprendizado supervisionado depende de ter dados rotulados. Muitas vezes, essa rotulagem é feita por humanos com base em um conjunto de critérios qualitativos. É difícil não só para cada pessoa ser consistente na sua rotulagem, mas também para que haja consistência em vários avaliadores. Os próprios avaliadores trazem seus próprios vieses para o problema de rotulagem, que tem a possibilidade de introduzir problemas acidentalmente no modelo de aprendizado supervisionado resultante. Por exemplo, imagine que os avaliadores estão fornecendo uma pontuação de quão forte é um currículo, e esses dados são usados para criar um sistema automatizado que marcará currículos automaticamente. Esses avaliadores podem ser tendenciosos a favor ou contra certas escolas, empresas anteriores, ou atividades extracurriculares. À medida que pontuam os currículos, eles podem replicar seu próprio viés no modelo de aprendizado de máquina supervisionado por meio de rotulagem tendenciosa. Modelos mais complicados, como aqueles construídos usando redes neurais profundas, pode ser difícil de explicar e, portanto, têm problemas com a transparência. Além disso, devido à sua complexidade, pode ser mais difícil verificar a segurança e segurança do modelo de aprendizado de máquina resultante. Todos esses fatores significam que o aprendizado supervisionado tem uma grande lista de considerações éticas que deve ser abordado.

Intermediário Fornecedor : Briana Brownell 5 lições · 16m em Árabe, Alemão, Inglês, Espanhol, Francês, Português, Chinese

Descrição do curso

Nestas lições sobre os desafios únicos da IA e da aprendizagem automática, irá explorar os tipos de aprendizagem automática, incluindo a supervisionada, que utiliza dados rotulados para fazer previsões; a não supervisionada, uma série de técnicas para compreender a estrutura dos dados sem uma variável de resultado; e a aprendizagem por reforço, um dos estilos mais antigos de aprendizagem automática que utiliza um método de aprendizagem baseado em objectivos. Compreenderá também as considerações éticas relativas às redes neuronais e à IA generativa.

A aprendizagem automática está na base de muitos dos sistemas de IA criados actualmente. As redes neuronais artificiais estão entre os métodos de aprendizagem automática mais bem sucedidos. Resolvem muitos dos problemas mais difíceis neste domínio, incluindo os que passaram décadas sem solução. Mas a utilização de redes neuronais também trouxe alguns novos desafios à IA, nomeadamente a forma de testar os casos extremos e a robustez dos resultados. A complexidade dos sistemas de teste pode torná-los particularmente difíceis de analisar. Passaremos em revista as considerações específicas que as redes neuronais têm em termos de ética.

A IA generativa é uma área nova e emergente relevante para a ética e a responsabilidade da IA.

Discutiremos o teste Lovelace que tem como objectivo testar se um computador pode gerar algo surpreendente e original.

O Que Você Vai Aprender

Diferenciar entre os principais tipos de aprendizado de máquina: aprendizado supervisionado, não supervisionado e aprendizado por reforço
Reconhecer os desafios éticos únicos colocados pelas redes neurais artificiais
Explicar os desafios éticos em torno da IA generativa
Examinar por que as redes neurais dificultam o teste de casos extremos e a robustez dos resultados
Descrever o teste de Lovelace para determinar se um computador pode gerar algo surpreendente e original

Principais Conclusões

O aprendizado supervisionado usa dados rotulados para fazer previsões, o aprendizado não supervisionado usa técnicas para entender a estrutura dos dados sem uma variável de resultado, e o aprendizado por reforço é um método de aprendizado baseado em objetivos.
As redes neurais artificiais estão entre os métodos de aprendizado de máquina mais bem-sucedidos e resolveram problemas que permaneceram sem solução por décadas.
As redes neurais introduzem novos desafios para a IA, incluindo como testar casos extremos e robustez dos resultados, e seus sistemas de testes podem ser particularmente difíceis de analisar.
A IA generativa é uma área mais recente e emergente relevante para a ética e responsabilidade da IA.
O teste de Lovelace visa avaliar se um computador poderia gerar algo surpreendente e original.

Perguntas Frequentes

O que este curso abrange?

Abrange os tipos de aprendizado de máquina (aprendizado supervisionado, não supervisionado e aprendizado por reforço), as considerações éticas em torno das redes neurais artificiais e os desafios éticos da IA generativa, incluindo uma discussão do teste de Lovelace.

Quais são os principais objetivos de aprendizado?

Diferenciar entre os principais tipos de aprendizado de máquina, reconhecer os desafios únicos com redes neurais artificiais e explicar os desafios éticos em torno da IA generativa.

Quais lições estão incluídas?

O curso inclui lições sobre Aprendizado Supervisionado, Aprendizado Não Supervisionado, Aprendizado por Reforço, Redes Neurais e IA Generativa.

Quais habilidades vou desenvolver?

Você desenvolverá habilidades em Inteligência Artificial, Aprendizado Automático de Máquina, Aprendizado de Máquina, Métodos de Aprendizado de Máquina, Aprendizado Supervisionado e Aprendizado Não Supervisionado.

Por que as redes neurais recebem atenção ética especial neste curso?

Porque, embora sejam entre os métodos de aprendizado de máquina mais bem-sucedidos, as redes neurais adicionam novos desafios, como teste de casos extremos e robustez dos resultados, e sua complexidade pode dificultar particularmente a análise dos sistemas de teste.