Ética y responsabilidad en la IA: la inteligencia artificial y los sistemas sociotécnicos

Name: Ética y responsabilidad en la IA: la inteligencia artificial y los sistemas sociotécnicos
Author: Briana Brownell

Conozca las formas en que la IA afecta a los derechos humanos

Preview the first lesson free — get full access to all 6 lessons.

Solicitar una demo Iniciar sesión

Curso: bajo demanda

(música suave) Los derechos humanos están íntimamente ligados a los valores humanos. Estos valores se cruzan con todos los aspectos de la sociedad, incluida la inteligencia artificial y sistemas tecnológicos creados en torno a la IA. Como tal, es vital que los sistemas de IA diseñados éticamente promover los valores humanos y los derechos humanos, impactando positivamente a la humanidad y a la sociedad. El ritmo del desarrollo de nueva tecnología es extremadamente rápido. Como resultado de la velocidad a la que se están produciendo los cambios, apenas estamos comenzando a armar la rendición de cuentas y marcos éticos a su alrededor. Por el contrario, los valores humanos evolucionan mucho más lentamente. Las leyes de derechos humanos tienen décadas, ya veces incluso siglos de historia. Este contraste de ritmo significa que es importante para ver las nuevas tecnologías digitales, incluida la inteligencia artificial, a través de la lente de los derechos humanos ya establecidos, y las formas en que la IA podría afectar los valores humanos, y también cambiar las normas sociales. El documento estándar a consultar en materia de derechos humanos es la Declaración Universal de los Derechos Humanos, o DUDH. La DUDH fue redactada por representantes con muchos trasfondos culturales diferentes, y fue proclamado como norma común en 1948 por la Asamblea General de las Naciones Unidas. Este importante documento enumera los derechos humanos fundamentales que hay que proteger. Muchos grupos se han preguntado acerca de la intersección de los derechos humanos y la IA, en particular cómo la privacidad, la igualdad, y se defienden diversas libertades, o potencialmente violada por los sistemas de IA. Ha habido intentos de documentar y analizar esta intersección por entidades del sector público, corporaciones, grupos sin fines de lucro, y organizaciones internacionales. Pero no todos los grupos discuten la IA ética han incluido un análisis explícito de cómo estas éticas se cruzan con los derechos humanos. Quizás sorprendentemente, documentación de principios del sector privado es más probable que material del sector público mencionar y discutir la intersección de la gobernanza de IA en derechos humanos. Un documento importante que sí analiza la intersección de los derechos humanos y la IA es la Declaración de Toronto. Que fue emitido por grupos como Amnistía Internacional y Access Now, y se publicó en 2018. Este documento trata específicamente el potencial de la tecnología de IA para dañar los derechos humanos, y que la responsabilidad por estos daños debería ser considerado. La Declaración de Toronto propone responsabilidades y obligaciones de los gobiernos así como del sector privado. Considera ampliamente el derecho a la igualdad, y requiere que haya una manera mediante el cual se pueden remediar las violaciones. Prevenir la discriminación es una de los requisitos más importantes de la declaración. Con respecto al sector público, el documento enumera los pasos que se deben tomar para mitigar los daños debidos a la discriminación. Uno, los riesgos deben identificarse antes de su uso. y evaluarse continuamente después de implementar el sistema de IA. Esta evaluación de riesgos puede incluir realizar evaluaciones de impacto y auditar sistemas activos, así como revelar las limitaciones del sistema. Dos, se debe asegurar la transparencia y la rendición de cuentas, y estos sistemas deben ser explicables e inteligibles. La transparencia incluye tres partes importantes. A, proporcionando un aviso donde los sistemas de aprendizaje automático se utilizan y cómo funcionan. B, auditoría de los sistemas y la capacidad de ser analizado por expertos independientes. C, evitando los sistemas de caja negra. Tres, se debe hacer cumplir la supervisión, incluida la búsqueda proactiva de diversas perspectivas y asegurar que se lleve a cabo el debido proceso. Además, cuando las organizaciones del sector público adquirir tecnología del sector privado, deben asegurarse de tener suficiente supervisión en el funcionamiento del sistema para cumplir con sus propios requisitos éticos y de gobierno. Organizaciones del sector privado también tienen responsabilidades específicas. Identificar los resultados de su sistema eso puede ser discriminatorio. Mitigar la discriminación mediante la adopción de medidas eficaces y el seguimiento de los resultados de esas acciones. Ser transparente sobre estos esfuerzos. Esta declaración subraya que la tecnología no debe socavar los derechos humanos, y que estas obligaciones deben cumplirse para garantizar que se protejan los derechos humanos. Aunque existen diferentes obligaciones para entidades del sector público y privado, la Declaración de Toronto deja claro que todas las organizaciones son parte de un ecosistema mayor. Cada uno juega un papel en la defensa de los valores humanos, respetando los derechos humanos, y garantizar que los sistemas de IA se diseñen y utilicen de manera ética.

Intermedio Proveedor : Briana Brownell 6 lecciones · 17m en Árabe, Alemán, Inglés, Español, Francés, Portugués, Chinese

Descripción del curso

Los derechos humanos están estrechamente vinculados a los valores humanos y se cruzan con todos los aspectos de la sociedad. En estas lecciones sobre IA e impacto del sistema sociotécnico en la sociedad y los valores humanos, aprenderá cómo los derechos humanos pueden verse afectados por la IA y comprenderá la intersección de los derechos y las libertades civiles con la IA. Aprenderá sobre el principio de igualdad de acceso a la tecnología, los servicios y las oportunidades y cómo este principio de apertura cambiará a medida que la IA se desarrolle aún más.

El principio de igualdad de acceso a la tecnología, los servicios y las oportunidades es un principio ético que trasciende los sistemas de IA. Dado que la IA está preparada para realizar cambios importantes en la sociedad, existe el riesgo de que los beneficios de esta tecnología puedan excluir sistemáticamente a ciertos individuos. Este principio también considera el impacto de las herramientas de IA en la sociedad en general y las formas en que las personas pueden usar los sistemas de IA en su vida cotidiana, no solo en el lugar de trabajo.

La democratización de la IA se está sintiendo en cada parte del diseño del sistema de IA y esta accesibilidad ha significado que se han puesto a disposición muchas más herramientas de IA. Como tal, más personas tienen acceso a las herramientas para construir y usar sistemas de IA. A medida que cambien las normas, la legislación y las culturas percibidas, la IA se desarrollará aún más, e interactuaremos con ella de diferentes maneras. Al final de estas lecciones, tendrá una idea clara del impacto del aprendizaje automático en la sociedad.

Lo que aprenderás

Describe cómo el principio de acceso equitativo a la tecnología, servicios y oportunidades se cruza con la IA
Reconoce la importancia de la democratización de las herramientas de IA
Comprende cómo los derechos humanos pueden ser impactados por la IA
Examina la intersección de los derechos civiles y las libertades civiles con la IA
Explica el impacto del aprendizaje automático en la sociedad
Explora cómo la IA puede desarrollarse y cómo interactuaremos con ella en el futuro

Puntos clave

Los derechos humanos están estrechamente vinculados a los valores humanos e intersectan con todos los aspectos de la sociedad, incluyendo la IA.
El acceso equitativo a la tecnología, servicios y oportunidades es un principio ético que trasciende los sistemas de IA.
Dado que se espera que la IA haga cambios importantes en la sociedad, existe el riesgo de que sus beneficios puedan excluir sistemáticamente a ciertos individuos.
La democratización de la IA ha puesto muchas más herramientas de IA a disposición, dando a más personas acceso para construir y usar sistemas de IA.
A medida que cambian las normas percibidas, la legislación y las culturas, la IA se desarrollará aún más y interactuaremos con ella de diferentes maneras.

Preguntas frecuentes

¿Qué aprenderé en este curso?

Aprenderás cómo los derechos humanos pueden ser impactados por la IA, la intersección de los derechos civiles y las libertades civiles con la IA, el principio de acceso equitativo a la tecnología, servicios y oportunidades, la democratización de la IA y el impacto del aprendizaje automático en la sociedad.

¿Qué temas cubren las lecciones?

Las lecciones cubren la intersección de los derechos humanos y la IA, acceso equitativo a la tecnología, servicios y oportunidades, derechos civiles y libertades civiles, aprendizaje automático en la sociedad, democratización de herramientas de IA y el futuro de la IA.

¿Cuál es el principio de acceso equitativo discutido en este curso?

Es un principio ético—el principio de acceso equitativo a la tecnología, servicios y oportunidades—que trasciende los sistemas de IA y considera el impacto de las herramientas de IA en la sociedad en general y cómo las personas usan la IA en la vida cotidiana, no solo en el lugar de trabajo.

¿Qué habilidades ayuda a desarrollar este curso?

Aborda aplicaciones de inteligencia artificial, sistemas de inteligencia artificial, inteligencia artificial, ética de datos, inteligencia humana y responsabilidad social.

¿Qué entenderé al final de estas lecciones?

Al final, tendrás una comprensión clara del impacto del aprendizaje automático en la sociedad y entenderás los impactos de los derechos humanos de la IA.