KI-Ethik und Verantwortlichkeit: Transparenz und Erklärbarkeit von künstlicher Intelligenz

Name: KI-Ethik und Verantwortlichkeit: Transparenz und Erklärbarkeit von künstlicher Intelligenz
Author: Briana Brownell

Sie lernen die Grundsätze der Transparenz und Erklärbarkeit von KI-Systemen kennen

Preview the first lesson free — get full access to all 5 lessons.

Demo anfragen Anmelden

Kurs: On-Demand

(sanfte Musik) Wenn wir an Transparenz denken als Prinzip für den Aufbau eines KI-Systems, Die meisten von uns haben bereits eine Vorstellung davon, was es bedeutet. Transparenz ermöglicht Überblick. Denn ein transparentes System kann untersucht werden aufgrund seiner Transparenz. Das legt das Prinzip der Transparenz nahe dass die Überwachung eines KI-Systems möglich sein sollte. Es gibt mehrere Möglichkeiten in dem ein KI-System transparent sein sollte in der Konzeption und Umsetzung. Hinsichtlich des Designs sollte eine vollständige Offenlegung erfolgen rund um alle Daten, die zum Trainieren eines maschinellen Lernmodells verwendet werden, einschließlich der Art und Weise, wie die Daten erfasst wurden, Vorverarbeitungsschritte, Modellparameter, und der Algorithmus, der zum Generieren des Modells verwendet wird. Transparenz gilt auch für KI-Systeme die kein maschinelles Lernen verwenden, um Fachwissen offenzulegen oder Wissen wird verwendet, um den Entwurf des Entscheidungssystems zu beeinflussen. Es ist wichtig zu beachten diese Sorge um Transparenz Im Mittelpunkt stehen sowohl die Aktionen des Systems als auch sein Design. Diese Handlungen müssen überschaubar sein. Es ist verlockend, über Transparenz nachzudenken als Ja- oder Nein-Attribut des KI-Systems. Entweder ist das System transparent oder nicht. Tatsächlich gibt es aber viele Abstufungen zwischen perfekter Transparenz und Opazität. Die Entscheidungsstruktur eines Systems kann transparent sein in Bezug auf die Art und Weise, wie die Entscheidung getroffen wird, Die zur Generierung verwendeten Daten sind jedoch möglicherweise nicht transparent weil die Datenerfassungs- und -verarbeitungsschritte wurden möglicherweise nicht ordnungsgemäß offengelegt. Stellen Sie sich ein KI-System vor, das auf einem Entscheidungsbaum basiert. Entscheidungsbäume werden häufig überwacht Methode des maschinellen Lernens, die im Wesentlichen generiert ein Flussdiagramm basierend auf eingegebenen Trainingsdaten. Einmal generiert, könnte ein Entscheidungsbaum vorliegen völlig unkompliziert und leicht zu befolgen, aber die Datenbankbegründung warum der Entscheidungsbaum auf diese Weise erstellt wurde hängt ganz von den verwendeten Daten ab um das Modell überhaupt herzustellen. Die Verwendung eines unvollständigen oder verzerrten Datensatzes könnte dann möglich sein Entscheidungen generieren, die völlig transparent sind in Bezug darauf, wie das System Entscheidungen trifft, aber nicht in den Gründen dafür und ob diese Entscheidungen reflektiert sind der Landschaft, in der dieses System eingesetzt wird. Vergleichen Sie das mit einem Modell des maschinellen Lernens anhand eines standardisierten Datensatzes trainiert wie das Modified National Institute of Standards and Technology oder MNIST-Datensatz. Dieser Datensatz enthält Bilder der verwendeten handschriftlichen Ziffern für die überwachte Lernaufgabe der Zeichenerkennung, und es wurde von akademischen Forschungsteams zur Verfügung gestellt. KI-Praktiker können ihre eigenen spezifischen verwenden Algorithmus für maschinelles Lernen zum Erstellen eines überwachten Modell für maschinelles Lernen basierend auf diesem Datensatz. Infolgedessen wurden viele verschiedene Methoden verwendet diese Daten vorzuverarbeiten, und viele verschiedene Modellierungstechniken wurden angewendet. Daher die Einstufungsentscheidung für eine bestimmte Eingabe und ihre Genauigkeit variiert stark. Jetzt haben wir ein Beispiel für einen Fall in dem der Datensatz völlig transparent sein kann aber die Modellerstellung ist möglicherweise nicht möglich. Praktizierende könnten beginnen mit verschiedenen Vorverarbeitungstechniken, Verwenden Sie unterschiedliche Algorithmen und strukturieren Sie sie anderweitig ihren Modellbauprozess unterschiedlich. Diese Entscheidungen sind alle für die Transparenz von Bedeutung des Endsystems. Transparenz ist bei der Gestaltung jedes KI-Systems wichtig. aber es ist besonders wichtig wenn Entscheidungen große Auswirkungen auf diejenigen haben, die das System nutzen. Jeder Fall, in dem das Ergebnis des Systems kann den Lebensunterhalt erheblich beeinträchtigen und Chancen der Betroffenen sollten mit einem hohen Maß an Sichtbarkeit rechnen. Aber auch wenn wir es vielleicht erwarten möchten als Konsumenten und Nutzer dieser Systeme, Historisch gesehen war Transparenz nicht die Norm. Systeme wie die Kreditwürdigkeitsprüfung und diejenigen, die versuchen, die Wahrscheinlichkeit vorherzusagen über das rückfällige oder kriminelle Verhalten einer Person sind selten transparent. In einigen Fällen sind sie absichtlich undurchsichtig. Im geschäftlichen Kontext Transparenz könnte anderen Werten zuwiderlaufen einschließlich der Wahrung von Geschäftsgeheimnissen und geistigem Eigentum. Unternehmen möchten ihr Geheimrezept möglicherweise nicht preisgeben mit Außenstehenden oder sogar innerhalb des Unternehmens selbst. Letztlich muss ein Gleichgewicht zwischen den Erwartungen bestehen von Transparenz und der Wirkung eines Systems.

Mittelstufe Anbieter : Briana Brownell 5 Lektionen · 14m auf Arabisch, Deutsch, Englisch, Spanisch, Französisch, Portugiesisch, Chinese

Kursbeschreibung

In diesen Lektionen über Transparenz und Erklärbarkeit in der Künstlichen Intelligenz lernen Sie etwas über Erklärbarkeit und Interpretierbarkeit und deren Überschneidung mit den Konzepten der Black Box und Glass Box AI. Sie befassen sich mit den Vor- und Nachteilen von Open-Source-Software bei der Entwicklung eines KI-Systems. Sie lernen auch die Prinzipien der Entscheidungsmitteilung und der Interaktion kennen und deren Bedeutung bei Systemen, die natürliche Sprache oder Gesichtserkennung verwenden.

Der Grundsatz der Transparenz legt nahe, dass eine wirksame Überwachung von KI-Systemen möglich sein sollte. Diese Lektionen werden Ihr Verständnis des Konzepts der Transparenz in Entscheidungssystemen entwickeln, einschließlich verschiedener Ebenen der Undurchsichtigkeit, Schlüsselkonzepte rund um die Transparenz, einschließlich Erklärbarkeit, Interpretierbarkeit, Black-Box- und Glass-Box-KI mit Human-in-the-Loop-Systemen.

Erklärbarkeit ist einer der Grundsätze der KI-Ethik. Erklärbarkeit ist ein Schlüsselfaktor, der es Menschen ermöglicht, die Funktionsweise eines KI-Systems zu analysieren. In diesem Abschnitt werden Sie mit den Konzepten der Black Box und der Glass Box AI vertraut gemacht und erfahren, wie diese Modelle zur Analyse und Erklärung von KI-Entscheidungen verwendet werden können. Sie erhalten auch einen Einblick, wie ein Black-Box-Modell im Zusammenhang mit der Interpretierbarkeit verwendet wird.

Sie werden die Konzepte der Transparenz, der Fehlerkontrolle, der Demokratisierung und des Zugangs im Zusammenhang mit Open-Source-Software kennenlernen. Dann entdecken Sie die Grundsätze der Benachrichtigung über Entscheidungen und Interaktion und deren Bedeutung bei der Interaktion mit Systemen, die natürliche Sprache verwenden, wie z. B. Chatbots oder Gesichtserkennung, die in der Öffentlichkeit eingesetzt werden.

Was Sie lernen werden

Beschreiben Sie das Prinzip der Transparenz und seine Beziehung zu Black-Box- und Glass-Box-Systemen
Identifizieren Sie, warum Nachvollziehbarkeit in der KI wichtig ist
Erklären Sie die Vor- und Nachteile von Open-Source-Software in der KI-Entwicklung
Unterscheiden Sie Nachvollziehbarkeit von Interpretierbarkeit und ihrer Schnittmenge mit Black-Box- und Glass-Box-KI
Erkennen Sie die Prinzipien der Benachrichtigung von Entscheidung und Interaktion für Systeme, die natürliche Sprache oder Gesichtserkennung nutzen
Untersuchen Sie Transparenz, Fehlerüberprüfung, Demokratisierung und Zugang in Bezug auf Open-Source-Software

Wichtige Erkenntnisse

Das Prinzip der Transparenz deutet darauf hin, dass eine wirksame Überwachung von KI-Systemen möglich sein sollte.
Nachvollziehbarkeit ist eines der Prinzipien für KI-Ethik und ein Schlüsselfaktor, der es Menschen ermöglicht, die Funktionsweise eines KI-Systems zu analysieren.
Transparenz in Entscheidungssystemen beinhaltet verschiedene Ebenen der Undurchsichtigkeit und wichtige Konzepte wie Nachvollziehbarkeit, Interpretierbarkeit sowie Black-Box- und Glass-Box-KI mit menschlicher Einbindung im Schlüssel.
Black-Box- und Glass-Box-Modelle können zur Analyse und Erklärung von KI-Entscheidungsfindung verwendet werden, und ein Black-Box-Modell wird im Kontext der Interpretierbarkeit verwendet.
Benachrichtigung von Entscheidung und Interaktion sind wichtig, wenn mit Systemen interagiert wird, die natürliche Sprache nutzen, wie Chatbots, oder Gesichtserkennung, die in der Öffentlichkeit eingesetzt wird.

Häufig gestellte Fragen

Welche Themen behandelt dieser Kurs?

Er behandelt Transparenz und Nachvollziehbarkeit in der KI, einschließlich Nachvollziehbarkeit und Interpretierbarkeit, Black-Box- und Glass-Box-KI, die Vor- und Nachteile von Open-Source-Software sowie die Prinzipien der Benachrichtigung von Entscheidung und Interaktion.

Was werde ich in diesem Kurs über Open-Source-Software erfahren?

Sie werden die Vor- und Nachteile von Open-Source-Software bei der Entwicklung eines KI-Systems überprüfen, einschließlich der Konzepte Transparenz, Fehlerüberprüfung, Demokratisierung und Zugang, da jedes zu Open-Source-Software gehört.

Wie behandelt der Kurs Systeme zur Verarbeitung natürlicher Sprache und Gesichtserkennung?

Er behandelt die Prinzipien der Benachrichtigung von Entscheidung und Interaktion und ihre Bedeutung bei der Interaktion mit Systemen, die natürliche Sprache nutzen, wie Chatbots, oder Gesichtserkennung, die in der Öffentlichkeit verwendet wird.

Welche Lektionen sind in diesem Kurs enthalten?

Die Lektionen sind Transparenz und Überwachung; Nachvollziehbarkeit und Interpretierbarkeit; Rechenschaftspflicht in Black-Box und Glass-Box; Open Source und der Wert gemeinsamer Algorithmen; und Benachrichtigung von Entscheidung und Interaktion.

Welche Fähigkeiten hilft dieser Kurs zu entwickeln?

Er entwickelt Fähigkeiten in KI-Systemen, künstlicher Intelligenz, KI-Entwicklung, erklärbarer KI (XAI) und Transparenz in der Mensch-Computer-Interaktion.