Ética e responsabilidade da IA: Transparência e explicabilidade na inteligência artificial

Name: Ética e responsabilidade da IA: Transparência e explicabilidade na inteligência artificial
Author: Briana Brownell

Aprenda sobre os princípios relacionados com a transparência e a explicabilidade dos sistemas de IA

Preview the first lesson free — get full access to all 5 lessons.

Solicitar uma demonstração Entrar

Curso: sob demanda

(música suave) Quando pensamos em transparência como um princípio para a construção de um sistema de IA, a maioria de nós já tem uma ideia do que isso significa. A transparência permite a supervisão. Isso porque um sistema transparente pode ser examinado pela sua transparência. Assim, o princípio da transparência sugere que a supervisão de um sistema de IA deve ser possível. Existem várias maneiras em que um sistema de IA deve ser transparente na sua concepção e implementação. Em termos de design, deve haver divulgação completa em torno de quaisquer dados usados para treinar um modelo de aprendizado de máquina, incluindo como os dados foram coletados, etapas de pré-processamento, parâmetros do modelo, e o algoritmo usado para gerar o modelo. A transparência também se aplica aos sistemas de IA que não usam aprendizado de máquina para divulgar como o conhecimento ou o conhecimento é usado para informar o projeto do sistema de decisão. É importante notar aquela preocupação com a transparência centra-se nas ações do sistema, bem como em seu design. Essas ações devem ser possíveis de supervisionar. É tentador pensar em transparência como um atributo sim ou não do sistema AI. Ou o sistema é transparente ou não. Mas, na verdade, existem muitas gradações entre perfeita transparência e opacidade. A estrutura de decisão de um sistema pode ser transparente em termos de como a decisão é tomada, mas os dados usados para gerá-lo podem não ser transparentes porque as etapas de coleta e processamento de dados tomadas podem não ter sido devidamente divulgadas. Considere um sistema de IA construído em torno de uma árvore de decisão. As árvores de decisão são um recurso supervisionado comum método de aprendizado de máquina que essencialmente gera um fluxograma baseado em dados de treinamento de entrada. Uma vez gerada, uma árvore de decisão pode ser completamente simples e fácil de seguir, mas a justificativa do banco de dados por que a árvore de decisão foi criada dessa forma depende totalmente dos dados usados para produzir o modelo em primeiro lugar. Usar um conjunto de dados incompleto ou tendencioso pode então gerar decisões totalmente transparentes em termos de como o sistema está tomando decisões, mas não nas razões pelas quais e se essas decisões refletem da paisagem em que este sistema é implantado. Compare isso com um modelo de aprendizado de máquina treinado em um conjunto de dados padronizado como o Instituto Nacional Modificado de Padrões e Tecnologia, ou conjunto de dados MNIST. Este conjunto de dados contém imagens de dígitos manuscritos usados para a tarefa de aprendizado supervisionado de reconhecimento de caracteres, e foi disponibilizado por equipes de pesquisa acadêmica. Os praticantes de IA podem usar seus próprios algoritmo de aprendizado de máquina para criar um supervisionado modelo de aprendizado de máquina com base nesse conjunto de dados. Como resultado, muitos métodos diferentes têm sido usados para pré-processar esses dados, e muitas técnicas de modelagem diferentes foram aplicadas. Assim, a decisão de classificação para uma entrada específica e sua faixa de precisão amplamente. Agora, temos um exemplo de caso em que o conjunto de dados pode ser completamente transparente mas a criação do modelo pode não ser. Os praticantes podem começar com diferentes técnicas de pré-processamento, usar algoritmos diferentes e, de outra forma, estruturar seu processo de construção de modelo de forma diferente. Todas essas decisões são importantes para a transparência do sistema final. A transparência é importante no design de qualquer sistema de IA, mas é especialmente importante quando as decisões têm alto impacto sobre os usuários do sistema. Qualquer caso em que o resultado do sistema pode afetar significativamente a subsistência e oportunidade dos afetados por ela deve esperar um alto grau de visibilidade. Mas mesmo que possamos esperar que isso como consumidores e usuários desses sistemas, historicamente, a transparência não tem sido a norma. Sistemas como pontuação de crédito e aqueles que tentam prever a probabilidade do comportamento recaído ou criminoso de alguém raramente são transparentes. Em alguns casos, eles são deliberadamente opacos. Em um contexto empresarial, a transparência pode ir contra outros valores incluindo guardar segredos comerciais e propriedade intelectual. As empresas podem não querer compartilhar seu molho secreto com pessoas de fora ou mesmo dentro da própria empresa. Em última análise, deve haver um equilíbrio entre as expectativas da transparência e do impacto de um sistema.

Intermediário Fornecedor : Briana Brownell 5 lições · 14m em Árabe, Alemão, Inglês, Espanhol, Francês, Português, Chinese

Descrição do curso

Nestas lições sobre Transparência e Explicabilidade na Inteligência Artificial, aprenderá sobre explicabilidade e interpretabilidade e a sua intersecção com os conceitos de caixa negra e caixa de vidro da IA. Analisará as vantagens e desvantagens do software de código aberto no desenvolvimento de um sistema de IA. Aprenderá também sobre os princípios da notificação da decisão e da interacção e a sua importância para os sistemas que utilizam a linguagem natural ou o reconhecimento facial.

O princípio da transparência sugere que deve ser possível uma supervisão efectiva dos sistemas de IA. Estas lições desenvolverão a sua compreensão do conceito de transparência nos sistemas de decisão, incluindo diferentes níveis de opacidade, conceitos-chave em torno da transparência, incluindo a explicabilidade, a interpretabilidade, a caixa negra e a caixa de vidro da IA, utilizando sistemas human-in-the-loop.

A explicabilidade é um dos princípios da ética da IA. A explicabilidade é um factor-chave que permite aos seres humanos analisar o funcionamento de um sistema de IA. Esta secção apresenta os conceitos de IA de caixa negra e de caixa de vidro e a forma como estes modelos podem ser utilizados para analisar e explicar o processo de tomada de decisões da IA. Também ficará a saber como um modelo de caixa negra é utilizado no contexto da interpretabilidade.

Irá rever os conceitos de transparência, verificação de erros, democratização e acesso no que diz respeito ao software de código aberto. Em seguida, descobrirá os princípios de notificação de decisão e interacção e a sua importância quando interage com sistemas que utilizam linguagem natural, como os chatbots, ou o reconhecimento facial utilizado em público.

O Que Você Vai Aprender

Descrever o princípio da transparência e sua relação com sistemas de caixa preta e caixa de vidro
Identificar por que a explicabilidade é importante em IA
Explicar as vantagens e desvantagens do software de código aberto no desenvolvimento de IA
Distinguir explicabilidade de interpretabilidade e sua intersecção com IA de caixa preta e caixa de vidro
Reconhecer os princípios de notificação de decisão e interação para sistemas que usam linguagem natural ou reconhecimento facial
Examinar transparência, verificação de erros, democratização e acesso conforme relacionado ao software de código aberto

Principais Conclusões

O princípio da transparência sugere que uma supervisão eficaz dos sistemas de IA deve ser possível.
Explicabilidade é um dos princípios para ética em IA e é um fator chave que permite aos humanos analisar o funcionamento de um sistema de IA.
Transparência em sistemas de decisão envolve diferentes níveis de opacidade e conceitos-chave como explicabilidade, interpretabilidade e IA de caixa preta e caixa de vidro usando sistemas com humano no loop.
Modelos de caixa preta e caixa de vidro podem ser usados para analisar e explicar tomada de decisão em IA, e um modelo de caixa preta é usado no contexto de interpretabilidade.
Notificação de decisão e interação importam ao interagir com sistemas usando linguagem natural, como chatbots, ou reconhecimento facial usado em público.

Perguntas Frequentes

Quais tópicos este curso cobre?

Cobre transparência e explicabilidade em IA, incluindo explicabilidade e interpretabilidade, IA de caixa preta e caixa de vidro, as vantagens e desvantagens do software de código aberto e os princípios de notificação de decisão e interação.

O que aprenderei sobre software de código aberto neste curso?

Você revisará as vantagens e desvantagens do software de código aberto no desenvolvimento de um sistema de IA, incluindo os conceitos de transparência, verificação de erros, democratização e acesso conforme cada um se relaciona com software de código aberto.

Como o curso aborda sistemas de linguagem natural e reconhecimento facial?

Cobre os princípios de notificação de decisão e interação e sua importância ao interagir com sistemas usando linguagem natural, como chatbots, ou reconhecimento facial sendo usado em público.

Quais aulas estão incluídas neste curso?

As aulas são Transparência e Supervisão; Explicabilidade e Interpretabilidade; Responsabilidade em Caixa Preta e Caixa de Vidro; Código Aberto e o Valor de Algoritmos Comuns; e Notificação de Decisão e Interação.

Que competências este curso ajuda a desenvolver?

Desenvolve competências em Sistemas de Inteligência Artificial, Inteligência Artificial, Desenvolvimento de Inteligência Artificial, IA Explicável (XAI) e Transparência na Interação Humano-Computador.