In der Ausstellung «Planet Digital» am Museum für Gestaltung Zürich beschäftigt sich der Beitrag der ZHAW mit der Fairness von Künstlicher Intelligenz. Warum gewinnt das Thema Fairness gerade so viel Aufmerksamkeit?

Weil wir merken, dass sich im Zug der Digitalisierung unsere Welt massiv verändert. Künstliche Intelligenz, meist in Form von Algorithmen im Hintergrund, berührt immer mehr Lebensbereiche. In den vergangenen zehn bis 15 Jahren diskutierte man darüber, wie unsere Daten am besten geschützt werden können, doch wenig darüber, was eigentlich mit unseren Daten passiert, und ob das, was passiert, kompatibel mit den Werten unserer Gesellschaft ist. Das geschieht jetzt verstärkt, und bezieht sich auf Werte wie z. B. Chancengleichheit, soziale Gerechtigkeit, Freiheit, oder Demokratie.

In der Ausstellung wollen wir zeigen, dass es zu Verzerrungen im sozialen Gefüge kommen kann, wenn wir Daten zur Entscheidungsfindung nutzen. Konkret passiert das dadurch, dass gewisse soziale Gruppen durch die Anwendung eines Algorithmus systematisch benachteiligt werden. In unserem Forschungsprojekt «Soziale Fairness von Algorithmen» beschäftigen wir uns deswegen mit der Frage, wie das passiert, warum das passiert, und wie man Algorithmen konstruieren kann, die sozial gerecht sind.

Soziale Gerechtigkeit wird je nach Standpunkt unterschiedlich definiert. Wie geht man damit um?
Die Grundlage unseres Forschungsprojekts ist die sogenannte Group-Fairness. Dabei geht es um die Frage, ob jemand einen ungerechtfertigten Nachteil hat aufgrund der Tatsache, dass er oder sie Mitglied einer bestimmten Gruppe ist. Diese Gruppen können etwa definiert sein aufgrund des Geschlechts oder der sozialen Herkunft. Unfairness ist in diesem Sinne identisch mit Diskriminierung.

Wichtig ist dabei der Zusatz «ungerechtfertigt»: unterschiedliche Behandlung kann manchmal sehr wohl gerechtfertigt sein, und dann sogar gerechter sein als eine Gleichbehandlung. Ein vieldiskutiertes Beispiel: Statistisch ist nachgewiesen, dass riskantes Fahrverhalten mit der Nationalität korreliert. Ist es also gerechtfertigt, dass die Autoversicherungsprämie von der Nationalität abhängt, wie es in der Schweiz bei manchen Versicherungen der Fall ist? Manche würden das klar bejahen: Wenn eine soziale Gruppe mehr Schäden verursacht, sollte sie auch eine höhere Prämie bezahlen. Andere würden das als Diskriminierung bezeichnen.

Woran also erkennen wir Fairness? Die Antwort hängt vom Kontext ab, und oft auch von einer Abwägung verschiedener Werte. Unterschiedliche Antworten sind möglich - aber jeder, der einen datengestützten Entscheidungsalgorithmus in der Praxis einsetzt, muss hier eine Entscheidung treffen: Soll Fairness sichergestellt sein? Und falls ja: Welche Art von Fairness soll realisiert werden?

Lässt sich so ein variabler Begriff wie Fairness überhaupt in Algorithmen abbilden?

Ja, das ist möglich. Wir haben für dieses Entscheidungsproblem ein Framework entwickelt, das wir im Juni bei der Swiss Conference on Data Science in Luzern vorstellen wollen. Darin ist beschrieben, wie man in einem strukturierten Prozess zu einer Antwort auf die Frage kommt, was genau man im gegebenen Kontext als «fair» bezeichnen möchte. Der Ansatz wurde entwickelt zusammen mit einem Philosophen der Universität Zürich. Unser Framework führt zu einer Antwort, die sich tatsächlich in Algorithmen umsetzen lässt: Fairness ist am Ende also so definiert, dass sie sich codieren lässt. Technisch geht das durch die Berechnungen von verschiedenen Arten bedingter Wahrscheinlichkeiten. Das sähe zum Beispiel so aus: Gerecht ist, wenn die Wahrscheinlichkeit, dass eine Frau einen Kredit zugesprochen bekommt, gleich gross ist wie die Wahrscheinlichkeit für einen Mann. Damit wird Fairness messbar, und Entscheidungsalgorithmen können so konstruiert werden, dass diese Gleichheit garantiert ist: Das nennen wir dann «Fairness-by-Design».