Dies ist eine alte Version des Dokuments!
Algorithmic Bias and Fairness
SS 22
Teilnehmer: Tom Sühr, Josef Pelz
Kurzbeschreibung
Algorithmen finden längst in nahezu jeden Lebensbereich Anwendung. Insbesondere werden sie zur Entscheidungsfindung und in Empfehlungssystemen eingesetzt. Häufig werden dabei künstliche neuronale Netzwerke (NN) verwendet. Diese werden beispielsweise auf existierenden Datensätzen trainiert und angewendet um neue Datenpunkte gewissen Klassen zuzuordnen (Klassifizierung). Hierbei hat die Wahl der Datenbank, etwa die verwendeten Eigenschaften (Features) einzelner Datenpunkte, und der Aufbau/ die Architektur des NN großen Einfluss auf die Ergebnisse. Es ist daher wichtig, dass sowohl die Entwickler als auch die Nutzer dieser Systeme sich die Frage stellen: „Wie Gerecht sind diese Algorithmen?“.
Ziel des Projekts „Algorithmic Bias and Fairness“ (Algorithmische Vorurteile und Gerechtigkeit) ist es, die Relevanz und Komplexität dieser Frage greifbar zu machen. Zukünftige Entscheidungsträger:innen sollen einen kritischen Blick auf die Anwendung schwer durchschaubaren neuronalen Netzwerke erlangen. Als Medium der Kommunikation haben wir uns für eine interaktive Webseite entschieden. Nutzer:innen sollen anhand von Beispielen nachvollziehen wie bestehende Strukturen in Datenbanken zu Diskriminierung führen können und hinterfragen, wie sie solche Algorithmen nutzen.
Umsetzung
Um möglichst vielen Menschen die Auseinandersetzung mit der Thematik zu Ermöglichen haben wir uns für eine Website als Medium entschieden. Die potentielle Reichweite ist groß und die Verknüpfung mit anderen Webseiten via Hyperlinks ermöglicht es Nutzer:innen, je nach Vorwissen und Interesse, auf grundlegenderes oder tiefergehendes Wissen zuzugreifen. Zusätzlich können wir mittels JavaScript und WebGL eine interaktive Erfahrung kreieren, die eine spielerische Auseinandersetzung möglich macht und ein intuitives Verständnis vermitteln kann.
Der Einstieg in die Webseite ist ein Einstieg in die Thematik und bietet einen schnellen Überblick. Mehrere Links bieten Zugang zu Hintergrundwissen an. Beispiele von Anwendungsbereichen Neuronaler Netzwerke stellen deren Relevanz dar und verdeutlichen: Die von einem Algorithmus getroffenen Entscheidungen sollten so fair wie möglich sein.
Darauffolgend werden Kriterien für Fairness eingeführt und Methoden und Ansätze präsentiert um diese zu einzuhalten.