KI-Ethik und Verantwortung: Verzerrungen, Inklusivität und Fairness in der künstlichen Intelligenz

Name: KI-Ethik und Verantwortung: Verzerrungen, Inklusivität und Fairness in der künstlichen Intelligenz
Author: Briana Brownell

Sie erfahren, warum Voreingenommenheit und Fairness so wichtige Konzepte in der KI-Ethik sind

Preview the first lesson free — get full access to all 4 lessons.

Demo anfragen Anmelden

Kurs: On-Demand

(hüpfende Musik) Wenn KI-Systeme beginnen, Einfluss zu nehmen noch mehr Bereiche unseres Lebens, Das Bewusstsein der Öffentlichkeit wird immer größer über die Gefahren, die voreingenommene Systeme bergen können auf den Einzelnen und auf die Gesellschaft als Ganzes. Das tatsächliche Risiko einer Verzerrung in KI-Systemen ist, dass dadurch schädliche Ungerechtigkeit massiv zunehmen kann und auf eine Weise, die vielleicht nicht vorhersehbar gewesen wäre. Wenn KI-Funktionalität bereitgestellt wird in Systemen, die erhebliche Auswirkungen auf das Leben der Menschen haben, wie in den Bereichen Kreditauskunft, Beschäftigung, oder das Strafjustizsystem, Sie können das Vertrauen der Öffentlichkeit in KI-Systeme ernsthaft schädigen. Aus diesem Grund, es wird viel Aufmerksamkeit geschenkt zu Möglichkeiten, wie Praktiker Voreingenommenheit in KI-Systemen erkennen können während sie gebaut werden und verhindern, dass voreingenommene KI-Systeme eingesetzt werden. Voreingenommenheit ist besonders wichtig beim Erstellen von Modellen für maschinelles Lernen. Es gibt viele Bereiche, in denen unsere Daten erfasst werden. Diese Daten mit dem maschinelle Lernmodelle trainiert werden eingebettet in KI-Systeme, könnte voreingenommen oder dagegen voreingenommen sein bestimmte Arten von Personen basierend auf Faktoren wie Geschlecht und Rasse. Dies liegt daran, dass die erfassten Daten systematisch Folgendes umfassen können oder bestimmte Gruppen ausschließen. Auch die Datenkennzeichnung kann zu Verzerrungen führen. Aber die Technologie kann eine Teillösung bieten auf einige dieser Herausforderungen. Es gibt technische Hilfsmittel Dies kann zur Erkennung von KI-Bias verwendet werden sowie Best Practices für die Datenvorverarbeitung, Funktionsauswahl und Modellschulung. Darüber hinaus kann es innerhalb von KI-Systemen zu Voreingenommenheit kommen die keine Modelle des maschinellen Lernens verwenden. In diesen Fällen, es kann das Ergebnis wahrscheinlich unbeabsichtigter Entscheidungen sein von Praktikern gemacht, die die Vielfalt nicht berücksichtigen derjenigen, die das System nutzen. Das Entscheidungssystem kann bestehende Überzeugungen verstärken die voreingenommen sind. Zum Beispiel, eine Stellenausschreibung, die ein bestimmtes Bildungsniveau erfordert wie ein Bachelor- oder Masterabschluss könnte die Voreingenommenheit eines Personalmanagers kodifizieren darüber, was einen guten Bewerber ausmacht ohne zu sehen, ob diese Faktoren sind leistungsrelevant. Ein KI-System, das auf diesen Parametern basiert kann dann gute Kandidaten ablehnen mit einem weniger traditionellen Hintergrund. In allen KI-Systemen Die Verhinderung von Voreingenommenheit muss ein wichtiger Prozessbestandteil sein in der gesamten Modellbau-Pipeline, Design, Datenerfassung, Modelltraining und -tests, Entscheidungen darüber, welche Variablen ein- und ausgeschlossen werden sollen, der im resultierenden Modell verwendete Algorithmus, und die Art und Weise, wie es eingesetzt wird. Sicherstellen, dass Voreingenommenheit berücksichtigt wird im gesamten Designprozess sollte Teil des Governance-Rahmens sein für den Entwurf und die Implementierung jedes KI-Systems.

Mittelstufe Anbieter : Briana Brownell 4 Lektionen · 8m auf Arabisch, Deutsch, Englisch, Spanisch, Französisch, Portugiesisch, Chinese

Kursbeschreibung

Diese Lektionen über Voreingenommenheit, Inklusivität und Fairness in der künstlichen Intelligenz werden untersuchen, warum Voreingenommenheit eines der meistdiskutierten Konzepte im Bereich der KI-Ethik ist und warum die Vermeidung von Voreingenommenheit Teil der Steuerung jedes KI-Systems sein sollte. Außerdem werden in diesen Lektionen die Konzepte der Fairness, der Repräsentativität und des Prinzips der inklusiven Wirkung behandelt.

KI-Systeme skalieren schädliche Unfairness in hohem Maße. Daher sollte die Vermeidung von Verzerrungen Teil des gesamten Modellaufbaus sein, vom Entwurf über die Datenerfassung bis hin zu Modelltraining und -test. Repräsentative Daten sind wichtig für die Überwindung von Verzerrungen bei der Erstellung von Modellen für maschinelles Lernen. Damit Daten repräsentativ sind, müssen sie die Fälle, mit denen sich die KI befasst, genau wiedergeben. Sie werden lernen, wie repräsentative Daten verwendet werden können, um Verzerrungen in KI-Systemen, die auf maschinellem Lernen basieren, abzuschwächen oder zu beseitigen.

Im Wesentlichen bedeutet Fairness, dass die betroffenen Personen unparteiisch und gerecht behandelt werden sollten, unabhängig von Merkmalen wie Rasse, Geschlecht, Alter, Region, Nationalität, Herkunftsland, politische Überzeugung, Religion usw. In diesen Lektionen werden Sie auch das Konzept der Fairness und seine Bedeutung für die Voreingenommenheit erkunden, deren spezifische Definitionen in der akademischen Literatur ausführlich erforscht wurden.

Schließlich lernen Sie das Prinzip der integrativen Wirkung kennen und erfahren, wie es genutzt werden kann, um Menschen zu befähigen und den Nutzen für alle zu teilen.

Was Sie lernen werden

Den Unterschied zwischen Voreingenommenheit und Fairness in KI-Systemen beschreiben
Die Risiken, die von voreingenommenen KI-Systemen ausgehen, erkennen
Erklären, warum repräsentative Daten wichtig sind, um faire KI zu schaffen
Repräsentative Daten anwenden, um Voreingenommenheit in auf maschinellem Lernen basierenden KI-Systemen zu mindern oder zu beseitigen
Das Prinzip des inklusiven Einflusses und seine Fähigkeit, diejenigen, die mit KI interagieren, zu stärken, verstehen
Fairness, Repräsentativität und das Prinzip des inklusiven Einflusses in der KI-Ethik erforschen

Wichtige Erkenntnisse

Voreingenommenheit ist eines der am häufigsten diskutierten Konzepte in der KI-Ethik, und die Vermeidung sollte Teil der Governance jedes KI-Systems sein.
Da KI-Systeme unfaire Schäden massiv verstärken, sollte die Vermeidung von Voreingenommenheit die gesamte Modellentwicklungs-Pipeline von der Gestaltung über die Datenerfassung bis hin zum Modelltraining und zur Überprüfung umfassen.
Repräsentative Daten stellen die Fälle, mit denen sich die KI befasst, genau dar und sind wichtig zur Überwindung von Voreingenommenheit beim Aufbau von maschinellen Lernmodellen.
Fairness bedeutet, dass Datensubjekte unparteiisch und gerecht behandelt werden sollten, unabhängig von Merkmalen wie Rasse, Geschlecht, Alter, Region, Nationalität, Herkunftsland, politische Überzeugungen oder Religion.
Das Prinzip des inklusiven Einflusses kann verwendet werden, um Menschen zu stärken und Vorteile unter allen zu verteilen.

Häufig gestellte Fragen

Welche Themen werden in diesem Kurs behandelt?

Er behandelt Voreingenommenheit, Inklusion und Fairness in der künstlichen Intelligenz, einschließlich der Erkennung und Prävention von Voreingenommenheit, repräsentative Daten, Fairness in KI und inklusiven Einfluss.

Welche Fähigkeiten werde ich in diesem Kurs erwerben?

Sie entwickeln Fähigkeiten in KI-Systemen, künstlicher Intelligenz, Biasing, Computational Intelligence, Datenethik und Diversity-, Equity- und Inclusion-Richtlinien.

Was bedeutet Fairness im Kontext von KI?

Fairness bedeutet, dass Datensubjekte unparteiisch und gerecht behandelt werden sollten, unabhängig von Merkmalen wie Rasse, Geschlecht, Alter, Region, Nationalität, Herkunftsland, politische Überzeugungen oder Religion.

Warum sind repräsentative Daten wichtig?

Damit Daten repräsentativ sind, müssen sie die Fälle, mit denen sich die KI befasst, genau darstellen, und repräsentative Daten können verwendet werden, um Voreingenommenheit in auf maschinellem Lernen basierenden KI-Systemen zu mindern oder zu beseitigen.

Was ist das Prinzip des inklusiven Einflusses?

Inklusiver Einfluss ist ein Prinzip, das verwendet werden kann, um Menschen, die mit KI interagieren, zu stärken und Vorteile unter allen zu verteilen.