Ética y responsabilidad de la IA: Transparencia y explicabilidad en la inteligencia artificial

Name: Ética y responsabilidad de la IA: Transparencia y explicabilidad en la inteligencia artificial
Author: Briana Brownell

Conozca los principios relacionados con la transparencia y la explicabilidad de los sistemas de IA

Preview the first lesson free — get full access to all 5 lessons.

Solicitar una demo Iniciar sesión

Curso: bajo demanda

(música suave) Cuando pensamos en la transparencia como principio para construir un sistema de IA, la mayoría de nosotros ya tenemos una idea de lo que significa. La transparencia permite la supervisión. Eso es porque un sistema transparente puede ser examinado en virtud de su transparencia. Así que el principio de transparencia sugiere que la supervisión de un sistema de IA debería ser posible. Hay varias formas en el que un sistema de IA debe ser transparente en su diseño e implementación. En términos de diseño, debe haber una divulgación completa en torno a cualquier dato utilizado para entrenar un modelo de aprendizaje automático, incluyendo cómo se recopilaron los datos, pasos de preprocesamiento, parámetros del modelo, y el algoritmo utilizado para generar el modelo. La transparencia también se aplica a los sistemas de IA que no usan el aprendizaje automático para revelar cómo la experiencia o el conocimiento se utiliza para informar el diseño del sistema de decisiones. es importante tener en cuenta esa preocupación por la transparencia se centra en las acciones del sistema, así como en su diseño. Estas acciones deben ser posibles de supervisar. Es tentador pensar en la transparencia. como un atributo de sí o no del sistema de IA. O el sistema es transparente o no. Pero, de hecho, hay muchas gradaciones. entre perfecta transparencia y opacidad. La estructura de decisión de un sistema puede ser transparente en términos de cómo se toma la decisión, pero los datos utilizados para generarlo pueden no ser transparentes porque los pasos de recopilación y procesamiento de datos tomada podría no haber sido debidamente revelada. Considere un sistema de IA construido alrededor de un árbol de decisión. Los árboles de decisión son una estructura común supervisada. método de aprendizaje automático que esencialmente genera un diagrama de flujo basado en datos de entrenamiento de entrada. Una vez generado, un árbol de decisión podría ser completamente sencillo y fácil de seguir, pero la justificación de la base de datos por qué el árbol de decisiones se creó de esa manera depende totalmente de los datos utilizados producir el modelo en primer lugar. El uso de un conjunto de datos incompletos o sesgados podría entonces generar decisiones completamente transparentes en términos de cómo el sistema está tomando decisiones, pero no en las razones por las cuales y si esas decisiones reflejan del paisaje en el que se despliega este sistema. Compare eso con un modelo de aprendizaje automático entrenado en un conjunto de datos estandarizado como el Instituto Nacional Modificado de Estándares y Tecnología, o conjunto de datos MNIST. Este conjunto de datos contiene imágenes de dígitos escritos a mano utilizados para la tarea de aprendizaje supervisado de reconocimiento de caracteres, y ha sido puesto a disposición por equipos de investigación académica. Los profesionales de la IA pueden utilizar sus propios algoritmo de aprendizaje automático para crear un supervisado modelo de aprendizaje automático basado en este conjunto de datos. Como resultado, se han utilizado muchos métodos diferentes para preprocesar estos datos, y se han aplicado muchas técnicas de modelado diferentes. Por tanto, la decisión de clasificación para una entrada específica y su rango de precisión es amplio. Así que ahora, tenemos un ejemplo de un caso. en el que el conjunto de datos puede ser completamente transparente pero la creación del modelo puede no serlo. Los practicantes pueden comenzar con diferentes técnicas de preprocesamiento, usar diferentes algoritmos, y estructurar de otro modo su proceso de construcción de modelos de manera diferente. Todas esas decisiones son importantes para la transparencia. del sistema final. La transparencia es importante en el diseño de cualquier sistema de IA, pero es especialmente importante cuando las decisiones tienen un alto impacto en quienes utilizan el sistema. Cualquier caso donde el resultado del sistema puede afectar significativamente el sustento y oportunidad de los afectados por ella debe esperar un alto grado de visibilidad. Pero a pesar de que querríamos esperarlo como consumidores y usuarios de estos sistemas, Históricamente, la transparencia no ha sido la norma. Sistemas como la puntuación de crédito y aquellos que intentan predecir la probabilidad de la conducta reincidente o delictiva de alguien rara vez son transparentes. En algunos casos, son deliberadamente opacos. En un contexto empresarial, la transparencia puede ir en contra de otros valores incluyendo el mantenimiento de secretos comerciales y propiedad intelectual. Es posible que las empresas no deseen compartir su salsa secreta con personas ajenas o incluso dentro de la propia empresa. En última instancia, debe haber un equilibrio entre las expectativas de transparencia y el impacto de un sistema.

Intermedio Proveedor : Briana Brownell 5 lecciones · 14m en Árabe, Alemán, Inglés, Español, Francés, Portugués, Chinese

Descripción del curso

En estas lecciones sobre transparencia y explicabilidad en inteligencia artificial, aprenderá sobre la explicabilidad y la interpretabilidad y su intersección con los conceptos de caja negra y caja de vidrio AI. Revisará las ventajas y desventajas del software de código abierto en el desarrollo de un sistema de IA. También aprenderá sobre los principios de notificación de decisión e interacción, y su importancia con sistemas que utilizan lenguaje natural o reconocimiento facial.

El principio de transparencia sugiere que debería ser posible una supervisión eficaz de los sistemas de IA. Estas lecciones le ayudarán a comprender el concepto de transparencia en los sistemas de toma de decisiones, incluidos los diferentes niveles de opacidad, los conceptos clave en torno a la transparencia, como la explicabilidad, la interpretabilidad, la caja negra y la caja de vidrio y el uso de sistemas humanos en bucle.

La explicabilidad es uno de los principios de la ética en la IA. La explicabilidad es un factor clave que permite a los humanos analizar el funcionamiento de un sistema A. Esta sección le presentará los conceptos de IA de caja negra y caja de vidrio, y cómo se pueden usar estos modelos para analizar y explicar la toma de decisiones de IA. También aprenderá cómo se utiliza un modelo de caja negra en el contexto de la interpretabilidad.

Revisará los conceptos de transparencia, verificación de errores, democratización y acceso, ya que cada uno se relaciona con el software de código abierto. Luego, descubrirá los principios de notificación de decisión e interacción, y su importancia al interactuar con sistemas utilizando lenguaje natural, como chatbots, o el reconocimiento facial que se usa en público.

Lo que aprenderás

Describir el principio de transparencia y su relación con los sistemas de caja negra y caja blanca
Identificar por qué la explicabilidad es importante en la IA
Explicar las ventajas y desventajas del software de código abierto en el desarrollo de IA
Distinguir entre explicabilidad e interpretabilidad y su intersección con la IA de caja negra y caja blanca
Reconocer los principios de notificación de decisión e interacción para sistemas que utilizan lenguaje natural o reconocimiento facial
Examinar la transparencia, verificación de errores, democratización y acceso tal como se relacionan con el software de código abierto

Puntos clave

El principio de transparencia sugiere que debe ser posible una supervisión efectiva de los sistemas de IA.
La explicabilidad es uno de los principios para la ética de la IA y es un factor clave que permite que los humanos analicen el funcionamiento de un sistema de IA.
La transparencia en los sistemas de decisión implica diferentes niveles de opacidad y conceptos clave como explicabilidad, interpretabilidad, y IA de caja negra y caja blanca usando sistemas de humano en el bucle.
Los modelos de caja negra y caja blanca se pueden utilizar para analizar y explicar la toma de decisiones de la IA, y un modelo de caja negra se utiliza en el contexto de la interpretabilidad.
La notificación de decisión e interacción importa cuando se interactúa con sistemas que utilizan lenguaje natural, como chatbots, o reconocimiento facial utilizado en público.

Preguntas frecuentes

¿Qué temas cubre este curso?

Cubre transparencia y explicabilidad en la IA, incluyendo explicabilidad e interpretabilidad, IA de caja negra y caja blanca, las ventajas y desventajas del software de código abierto, y los principios de notificación de decisión e interacción.

¿Qué aprenderé sobre el software de código abierto en este curso?

Revisará las ventajas y desventajas del software de código abierto en el desarrollo de un sistema de IA, incluyendo los conceptos de transparencia, verificación de errores, democratización y acceso tal como se relacionan con el software de código abierto.

¿Cómo aborda el curso los sistemas de lenguaje natural y reconocimiento facial?

Cubre los principios de notificación de decisión e interacción y su importancia cuando se interactúa con sistemas que utilizan lenguaje natural, como chatbots, o reconocimiento facial siendo utilizado en público.

¿Qué lecciones se incluyen en este curso?

Las lecciones son Transparencia y Supervisión; Explicabilidad e Interpretabilidad; Responsabilidad en Caja Negra y Caja Blanca; Código Abierto y el Valor de Algoritmos Comunes; y Notificación de Decisión e Interacción.

¿Qué habilidades ayuda a desarrollar este curso?

Desarrolla habilidades en Sistemas de Inteligencia Artificial, Inteligencia Artificial, Desarrollo de Inteligencia Artificial, IA Explicable (XAI), y Transparencia en la Interacción Humano-Computadora.