Ética e responsabilidade da IA: Privacidade, segurança e proteção na inteligência artificial

Name: Ética e responsabilidade da IA: Privacidade, segurança e proteção na inteligência artificial
Author: Briana Brownell

Aprender sobre privacidade, segurança e protecção na inteligência artificial

Preview the first lesson free — get full access to all 6 lessons.

Solicitar uma demonstração Entrar

Curso: sob demanda

(música digital brilhante) Assembleia Geral das Nações Unidas adotou a Declaração Universal dos Direitos Humanos em 1948. É o Artigo 12 lê, ninguém será submetido a interferência arbitrária com sua privacidade, família, lar ou correspondência, nem a ataques à sua honra e reputação. Todos têm direito à proteção da lei contra tais interferências ou ataques. O direito à privacidade é cada vez mais importante em nosso mundo interconectado, onde uma miríade de informações altamente sensíveis são digitalizadas. Essa digitalização crescente significa que há cada vez mais maneiras em que os direitos de privacidade podem ser violados. O Regulamento Geral de Proteção de Dados da União Europeia, ou GDPR, que entrou em vigor em 2018, influenciou muitos regulamentos de privacidade em todo o mundo. Os princípios discutidos no GDPR tiveram um impacto muito forte especialmente em dois princípios, o consentimento e o controle sobre o uso de dados. O princípio do consentimento mantém que um indivíduo deve dar permissão ou consentimento para que seus dados sejam usados. Este princípio evoluiu do conceito do consentimento informado na área médica onde os indivíduos devem ser informados sobre os riscos, benefícios e alternativas aos tratamentos propostos. A definição de consentimento varia consideravelmente de requisitos para simplesmente dar aviso de processamento que forneceu dados, em vez de uma maneira de os indivíduos optarem explicitamente por participar, à capacidade de dar consentimento explicitamente, bem como a capacidade de revogar o consentimento posteriormente. Aqueles que trabalham com ética em IA devem dedicar tempo para delinear claramente o que e não constitui consentimento, como isso segue os regulamentos relevantes, e quais estruturas estão em vigor para rastrear e verificar se o consentimento foi de fato dado. Um princípio relacionado é o controle sobre o uso de dados. Este princípio afirma que os indivíduos devem ser capazes de controlar como seus dados são usados. Alguns princípios específicos detalham como esse controle poderia ser exercido incluindo, a capacidade de restringir o processamento, o direito de retificação e o direito de apagamento. Isso dá origem a um princípio relacionado, a portabilidade de dados. O princípio da portabilidade de dados requer que um indivíduo deve ser capaz de transferir seus próprios dados a terceiros. Vários países desenvolveram regulamentações em torno da portabilidade de dados, exigindo que as empresas para permitir que os indivíduos acessem facilmente e transferir dados para concorrentes. Este é considerado um regulamento pró-concorrência que nivela o campo de jogo e permite que empresas menores concorram com grandes titulares. Como resultado da importância da privacidade muitas organizações estão adotando a privacidade desde o início. Isso integra diretamente esses direitos e princípios no projeto de todos os seus mecanismos de coleta de dados e todos os seus designs de sistema de IA. Compreender os diferentes princípios envolvidos e quais ações as organizações podem tomar para apoiar a proteção da privacidade é um primeiro passo na proteção eficaz da privacidade das partes interessadas. Além disso, o consentimento pode estar relacionado ao contrato entre a entidade que fornece os dados e a entidade que o coleta. Os dados pessoais só devem ser utilizados para os fins de cumprir um contrato explícito ou implícito com a entidade titular dos dados pessoais. Em outras palavras, a entidade detentora de dados pessoais não está autorizada a utilizar os dados pessoais para qualquer outra finalidade. Este princípio também está relacionado à capacidade do provedor de dados de restringir o processamento. O GDPR tem sido muito influente nos últimos anos que talvez possa ser atribuído ao fato que os princípios nela declarados, particularmente os conceitos de consentimento, controle, e portabilidade agora são peças padrão da maioria dos regulamentos internacionais de privacidade.

Intermediário Fornecedor : Briana Brownell 6 lições · 13m em Árabe, Alemão, Inglês, Espanhol, Francês, Português, Chinese

Descrição do curso

Estas lições sobre Privacidade, Segurança e Protecção na Inteligência Artificial discutirão o Regulamento Geral de Protecção de Dados, o consentimento, a portabilidade dos dados, a capacidade de restringir o processamento, o direito à rectificação e o direito ao apagamento. Aprenderá conceitos importantes que envolvem fiabilidade e segurança e descobrirá como a monitorização pode detectar potenciais riscos e mitigar rapidamente os danos se o sistema não estiver a funcionar como desejado. Estas lições também abordarão a importância da rastreabilidade para a segurança.

Ao discutir a ampla gama de conceitos que envolvem privacidade, segurança e protecção na inteligência artificial, analisaremos o valor e a influência do Regulamento Geral de Protecção de Dados (RGPD) da União Europeia, que entrou em vigor em 2018. Também analisaremos a ligação entre fiabilidade e segurança. Para que um sistema seja seguro, deve haver um certo nível de fiabilidade no desempenho e nas decisões tomadas pelo sistema. Uma abordagem de gestão do risco pode ser utilizada para descobrir que procedimentos de teste são relevantes para um determinado domínio e determinar os riscos que o sistema pode representar para considerações importantes como a privacidade e os direitos humanos.

No final destas lições, ficará a saber que a segurança dos sistemas de IA também está relacionada com a utilização não autorizada dos dados ou do sistema de IA. Descobrirá que a utilização não autorizada pode causar danos aos criadores e aos utilizadores do sistema, razão pela qual muitas organizações estão a considerar a segurança desde a concepção na implementação de qualquer sistema de IA.

O Que Você Vai Aprender

Compreender os princípios que regem a privacidade, segurança e proteção da IA, incluindo o Regulamento Geral de Proteção de Dados (GDPR) da UE que entrou em vigor em 2018
Explicar como confiabilidade e segurança estão interligadas em sistemas de IA
Descrever como o monitoramento pode detectar riscos potenciais e mitigar rapidamente danos quando um sistema não funciona conforme desejado
Avaliar os princípios de segurança relevantes de um sistema de IA, incluindo questões de uso não autorizado de dados
Aplicar conceitos de consentimento, portabilidade de dados, restrição de processamento, direito à retificação e direito ao esquecimento
Examinar procedimentos de testes e uma abordagem de gestão de riscos para determinar riscos que um sistema de IA pode apresentar

Principais Conclusões

O Regulamento Geral de Proteção de Dados (GDPR) da UE, que entrou em vigor em 2018, aborda consentimento, portabilidade de dados, a capacidade de restringir o processamento, o direito à retificação e o direito ao esquecimento.
Para que um sistema de IA seja seguro, deve haver um certo nível de confiabilidade no desempenho e nas decisões tomadas pelo sistema.
O monitoramento pode detectar riscos potenciais e mitigar rapidamente danos se um sistema não funcionar conforme desejado, e a rastreabilidade é importante para a segurança.
Uma abordagem de gestão de riscos pode ser usada para determinar procedimentos de testes relevantes e identificar riscos que o sistema pode apresentar a considerações como privacidade e direitos humanos.
A segurança de sistemas de IA está relacionada ao uso não autorizado de dados ou do sistema, o que pode prejudicar criadores e usuários, levando muitas organizações a considerar a segurança por design.

Perguntas Frequentes

Quais tópicos este curso aborda?

Aborda privacidade, segurança e proteção em inteligência artificial, incluindo GDPR, consentimento, portabilidade de dados, restrição de processamento, direito à retificação e esquecimento, confiabilidade e segurança, monitoramento, rastreabilidade, procedimentos de testes e segurança de dados e resultados.

O que serei capaz de fazer após concluir este curso?

Você será capaz de compreender os princípios que regem a privacidade, segurança e proteção da IA, explicar como confiabilidade e segurança estão interligadas, descrever como o monitoramento pode detectar riscos e mitigar danos, e avaliar os princípios de segurança relevantes de um sistema de IA.

O que o curso diz sobre a relação entre confiabilidade e segurança?

O curso explica que, para um sistema ser seguro, deve haver um certo nível de confiabilidade no desempenho e nas decisões tomadas pelo sistema.

Por que a segurança é importante para sistemas de IA de acordo com este curso?

A segurança de sistemas de IA está relacionada ao uso não autorizado dos dados ou do sistema de IA, o que pode causar dano aos criadores e usuários, razão pela qual muitas organizações consideram a segurança por design na implementação.

Quais lições estão incluídas neste curso?

As lições são Consentimento e Controle sobre o Uso de Dados; Capacidade de Restringir o Processamento; Direito à Retificação e Esquecimento; Confiabilidade e Resiliência de sistemas de IA; Procedimentos de Testes; e Segurança de Dados e Resultados.