KI-Ethik und Verantwortlichkeit: Kritische Vorfälle mit künstlicher Intelligenz

Name: KI-Ethik und Verantwortlichkeit: Kritische Vorfälle mit künstlicher Intelligenz
Author: Briana Brownell

Sie lernen anhand konkreter Fallstudien die negativen Folgen von AI kennen

Preview the first lesson free — get full access to all 3 lessons.

Kurs: On-Demand

Es gab zahlreiche Vorfälle wo künstliche Intelligenzsysteme eingesetzt wurden mit erheblichen ethischen Implikationen. Bei vielen dieser Vorfälle geht es um Voreingenommenheit und Diskriminierung. Historisch gesehen, Voreingenommenheit und Datensätze und der Modellbau galt als Nebensache, der Modellgenauigkeit untergeordnet, aber mehrere Bedeutsame Vorfälle haben das Bewusstsein der Praktizierenden geschärft der Fragestellungen und der ethischen Anforderungen die sie in ihren Systementwürfen anwenden sollten. Betrachten wir zwei Fälle von Voreingenommenheit und Diskriminierung. Im Jahr 2014 versuchte Amazon, ein KI-System zu entwickeln Das würde ihren Personalmanagern leichter helfen Identifizieren Sie Top-Kandidaten. Zu diesem Zweck begann das Unternehmen mit der Entwicklung eines Tools Das könnte die Überprüfung von Lebensläufen automatisieren und verwenden Sie Schlüsselwörter, um die Top-Kandidaten zu identifizieren. Das Unternehmen verwendete Daten zu Lebensläufen und Amazon-Mitarbeiter aus den letzten 10 Jahren als Teil eines überwachten maschinellen Lernmodells um im Wesentlichen das Unternehmen zu kodifizieren frühere Einstellungspraktiken in ein automatisiertes KI-System. Was sie nicht erkannten, waren die Entscheidungen der Einstellungsmanager waren in der Vergangenheit diskriminierend. Das KI-System kodifizierte somit diese Diskriminierung in das System, das sie bauten. Das Unternehmen erkannte schließlich, dass die Maschine Das Lernmodell diskriminierte Frauen, eine Verzerrung aufrechtzuerhalten, die in ihren Trainingsdaten vorhanden war. Es war eine Herabstufung von Lebensläufen mit Wörtern wie "Frauen", beispielsweise solche, die in einer Lebenslauferklärung vorkommen könnten wie Kapitänin der Frauenfußballmannschaft und Erwähnungen bestimmter Frauenhochschulen. Da die Belegschaft von Amazon überwiegend aus Männern bestand, Absolventen dieser Hochschulen waren selten oder nicht vorhanden im Trainingsset. Das KI-System hat gelernt dass Absolventen dieser Hochschulen unerwünscht seien. Ob das Unternehmen diskriminieren wollte oder nicht gegen weibliche Bewerber, die Verwendung eines Algorithmus, der Kandidaten zu Unrecht entfernt eines bestimmten Geschlechts, einer bestimmten Rasse oder Religion sind illegal. Das Unternehmen dementierte dass das Werkzeug ausschließlich dazu verwendet wurde Kandidaten bewerten und die Verwendung einstellen nachdem die Probleme der Diskriminierung ans Licht kamen. Ein weiteres häufiges Problem bei der KI-Diskriminierung und Voreingenommenheit hat mit der Rasse zu tun in Bezug auf Bildunterschrift und Klassifizierung. Während ihrer Forschung zur Gesichtserkennung MIT grad student Joy Buolamwini found dass die von ihr verwendeten KI-Tools Schwierigkeiten hatten ihr Gesicht erkennen. Als schwarze Frau Ihre Herausforderung mithilfe der Gesichtserkennung war weit verbreitet. Viele Gesichtserkennungssysteme werden auf Daten trainiert Hier gibt es im Vergleich zu anderen Gruppen mehr weiße Männer. Infolge Diese Systeme sind für bestimmte Gruppen viel ungenauer. Sie konnte die Technologie nicht so einfach nutzen wie ihre weißen männlichen Kollegen. Die Probleme bei der Bildklassifizierung sind allgegenwärtig. Bildunterschriftensysteme können Voreingenommenheit aufrechterhalten die möglicherweise bereits in den Trainingsdaten vorhanden sind. Wie im Beispiel des Einstellungssystems von Amazon. Im Jahr 2020, als die Pandemie auf der ganzen Welt wütete, Die Bürger wurden aufgefordert, ihre Temperatur zu messen, um dies festzustellen ob sie Fieber hatten, eines der primären Covid-Symptome. Eine der gebräuchlichsten Methoden zur Fiebermessung war ein Handthermometer. Aber als Googles Cloud Vision Bildunterschriften produzierte für Personen, die eines dieser Geräte in der Hand halten, Fotos Mit dunkelhäutigen Händen wurde mit Waffen beschriftet. Während Fotos von Asiaten, die sie hielten, beschriftet waren als elektronisches Gerät. Auch wenn ein identisches Bild einer Hand vorhanden ist, die das Gerät hält verwendet wurde und sich die Hautfarbe veränderte, hielt das Gerät von der dunkelhäutigen Hand war beschriftet als Waffe, während das Gerät in der hellhäutigen Hand liegt wurde als Werkzeug beschriftet. Diese Beispiele verdeutlichen die Bedeutung der Verwendung unvoreingenommener Datensätze für das Training und um sicherzustellen, dass Systeme nicht fortbestehen und menschliche Vorurteile aus der Vergangenheit skalieren.

Mittelstufe Anbieter : Briana Brownell 3 Lektionen · 14m auf Arabisch, Deutsch, Englisch, Spanisch, Französisch, Portugiesisch, Chinese

Kursbeschreibung

Diese Lektionen über kritische Vorfälle im Bereich der künstlichen Intelligenz befassen sich mit bedeutenden KI-Vorfällen anhand einer Reihe von Beispielen aus der realen Welt, bei denen es zu negativen Ergebnissen in der KI kam, wie sie gelöst wurden und wie sie hätten verhindert werden können. Insbesondere werden Sie Fallstudien durcharbeiten, die sich auf Fragen der Identität und Diskriminierung, beleidigende Inhalte und rechtliche Auswirkungen konzentrieren. Sie werden zunächst einen Fall von KI-Diskriminierung bei der Einstellung untersuchen, bei dem weibliche Bewerber ausgeschlossen wurden, und dann einen Fall von voreingenommener Bild-KI, der zu anstößigen Fotobeschreibungen führte.

Die zweite Reihe von Fallstudien befasst sich mit der Generierung und Verstärkung von beleidigenden Inhalten auf beliebten Internetplattformen durch bösartige Akteure. In den abschließenden Fallstudien werden Sie Fälle untersuchen, in denen KI-Systeme mit dem Recht in Berührung kommen, und Sie werden einen Einblick in die rechtlichen Auswirkungen solcher Interaktionen erhalten.

Was Sie lernen werden

Die Wege beschreiben, auf denen KI-Systeme fehlschlagen oder problematisch sein können
Die ethischen Probleme erkennen, die durch reale KI-Anwendungsfälle entstehen
KI-Ausfälle bei Identität und Diskriminierung anhand von Fallstudien untersuchen
Analysieren, wie KI-Systeme anstößige Inhalte generieren oder verstärken
Fälle erforschen, in denen KI-Systeme mit dem Gesetz zusammentreffen und deren rechtliche Auswirkungen
Aus früheren KI-Vorfällen lernen, um zu verstehen, wie sie gelöst und verhindert wurden

Wichtige Erkenntnisse

Der Kurs untersucht bedeutende KI-Vorfälle anhand realer Beispiele negativer Ergebnisse und prüft, wie sie gelöst wurden und wie sie hätten verhindert werden können.
Fallstudien behandeln Identität und Diskriminierung, einschließlich einer KI zur Personaleinstellung, die weibliche Bewerberinnen ausschloss, und einer voreingenommenen Bild-KI, die anstößige Fotobeschreibungen erzeugte.
Eine Serie von Fallstudien behandelt die Erzeugung und Verstärkung von anstößigen Inhalten auf beliebten Internetplattformen durch böswillige Akteure.
Die endgültigen Fallstudien erforschen, wie KI-Systeme mit dem Gesetz zusammentreffen und die rechtlichen Auswirkungen dieser Schnittstellen.
Die Lektionen zielen darauf ab, das Verständnis von KI-Ethik zu fördern, indem man aus früheren Problemen mit KI lernt.

Häufig gestellte Fragen

Was deckt dieser Kurs ab?

Er untersucht bedeutende KI-Vorfälle anhand realer Fallstudien negativer Ergebnisse, mit Schwerpunkt auf Identität und Diskriminierung, anstößige Inhalte und rechtliche Auswirkungen, einschließlich wie die Vorfälle gelöst wurden und wie sie hätten verhindert werden können.

Welche realen Beispiele werden diskutiert?

Beispiele umfassen einen Fall von KI-Diskriminierung bei Personaleinstellungen, bei dem weibliche Bewerberinnen ausgeschlossen wurden, eine voreingenommene Bild-KI, die anstößige Fotobeschreibungen erzeugte, die Verstärkung von anstößigen Inhalten auf beliebten Internetplattformen durch böswillige Akteure und Fälle, in denen KI-Systeme mit dem Gesetz zusammentreffen.

Was kann ich nach diesem Kurs tun?

Sie werden in der Lage sein, die Wege zu beschreiben, auf denen KI-Systeme fehlschlagen oder problematisch sein können, die Probleme der KI-Ethik in realen Anwendungsfällen zu erkennen und aus früheren Problemen mit KI zu lernen.

Welche Themen oder Lektionen sind enthalten?

Die Lektionen sind KI-Probleme bei Identität und Diskriminierung, KI und anstößige Inhalte sowie KI-Übersetzer und rechtliche Auswirkungen.

Welche Fähigkeiten entwickelt dieser Kurs?

Er entwickelt Fähigkeiten in Anwendungen der künstlichen Intelligenz, KI-Systemen, künstlicher Intelligenz, KI-Entwicklung, Datenethik und erklärbarer KI (XAI).