Die Berechnung der Welt
Wir leben im Zeitalter von Big Data. Unternehmen verwenden riesige Datenmengen ihrer Kunden und steigern damit ihren Ertrag. Professor Christoph Heitz von der ZHAW arbeitet an einem Ethik-Kodex für den Umgang mit Daten und fordert «faire Algorithmen».
![](/storage/_processed_/8/7/csm_big-data-und-ethik_2a3cc1f7a3.webp)
Algorithmen finden auf Dating-Seiten unseren perfekten Partner, sie berechnen unsere Kreditwürdigkeit und entscheiden darüber, wie lange jemand im Gefängnis bleibt. Wir leben im Zeitalter von Big Data, Tag für Tag produziert die Menschheit rund 2,5 Trillionen Bytes digitaler Daten. Eine Zahl, so gross, dass sich kaum ein Vergleich dafür findet. Vielleicht dieser: Um mit dem Wasser, das über die Niagara-Fälle strömt, 2,5 Trillionen Badewannen zu füllen, würde es 1000 Jahre dauern.
Viele Firmen sehen in dieser gigantischen Datenmenge eine Goldgrube. Mit raffinierten Algorithmen werten sie unsere digitalen Spuren aus, passen ihre Angebote zielgenau auf verschiedene Gruppen an und maximieren damit ihren Ertrag. Solche Algorithmen entstehen auch an der School of Engineering der ZHAW. Professor Christoph Heitz leitet den Forschungsschwerpunkt Business Engineering and Operations Management und ist Präsident der Swiss Alliance for Data-Intensive Services, des grössten Schweizer Innovationsnetzwerkes im Bereich der datenbasierten Wertschöpfung. Er sagt: «Mit unseren Algorithmen verändern wir die Welt. Manchmal greifen sie direkt ins Leben der Menschen ein.»
Firmen missbrauchen Kundendaten für eigene Zwecke – so lautet eine zentrale Kritik in der Diskussion um Big Data. «Diese Aussage trifft den Punkt nicht», sagt Christoph Heitz. Wenn Unternehmen Daten für eigene Interessen verwenden, sei das zunächst einmal legitim und in den meisten Fällen profitiere davon auch der Kunde. Etwa wenn wir Werbung sehen, die uns tatsächlich interessiert, oder eine App uns in Echtzeit die besten Verbindungen mit dem öffentlichen Verkehr aufzeigt. «Ich glaube, dass Big Data unser Leben insgesamt besser macht.»
Diskriminierung durch Algorithmen
Doch nicht immer seien Algorithmen harmlos, sagt Heitz. Kritisch werde es dann, wenn ihre Berechnungen ganze Gesellschaftsgruppen benachteiligten oder diskriminierten. Das bekannteste Beispiel hierfür stammt aus den USA. Dort verwenden Gerichte einen Algorithmus, der berechnet, ob Straftäter rückfällig werden oder nicht. Wie Untersuchungen von Journalisten und Wissenschaftlern zeigten, arbeitet der Algorithmus nur wenig genauer als ein Zufallsgenerator und benachteiligt dabei Menschen mit dunkler Hautfarbe. Schwarze werden fast doppelt so häufig fälschlicherweise als rückfallgefährdet eingestuft wie Weisse.
«Es braucht faire Algorithmen, um solche Auswirkungen zu verhindern», sagt Christoph Heitz. Bei der Swiss Alliance for Data-Intensive Services leitet er die Fachgruppe Data-Ethics, wo Wissenschaftler und Vertreter aus der Industrie ethische Fragen rund um die kommerzielle Nutzung von Daten diskutieren. Sollen Unternehmen den Kunden etwas für ihre Daten bezahlen? Wie gehen Forscher und Firmen damit um, dass Algorithmen immer auch das Wertesystem des Programmierers abbilden? Was genau ist ein fairer Algorithmus? In der Gruppe vertreten sind rund ein Dutzend Unternehmen, darunter die Mobiliar, die Neue Zürcher Zeitung und die Migros. Die andere Hälfte der Mitglieder stammt aus dem Hochschulbereich.
Karin Lange verantwortet bei der Mobiliar Versicherung das Trendmanagment und vertritt das Unternehmen in der Fachgruppe Data-Ethics. Sie beschäftigt sich in ihrer Arbeit vertieft mit Big Data sowie Datennutzungsrechten. «Algorithmen könnten die gesamte Versicherungsbranche verändern», sagt Lange. Bisher funktionierten alle Versicherungen auf dem Solidaritätsprinzip: Viele bezahlen für die Schäden von wenigen, denn niemand weiss, wer als Nächstes einen Unfall verursacht. So war es bisher. In Zukunft jedoch könnten Algorithmen berechnen, von welchen Autofahrern ein überdurchschnittlich hohes Unfallrisiko ausgeht – aufgrund ihrer Fahrtechnik, ihrer Automarke, ihrer Strafzettel-Bilanz, kombiniert mit generellen Verhaltensdaten. Ein Szenario mit weitreichenden Konsequenzen. «Soll man das Solidaritätsprinzip aufgeben, wenn damit die Prämien für einige wenige exorbitant ansteigen, während sie für die Mehrheit sinken? Da befinden wir uns bereits mitten in grundlegenden ethischen Diskussionen», sagt Lange. Besonders heikel sei das im Bereich der Krankenversicherungen, etwa wenn einzelne Patienten beispielsweise aufgrund eines Krankheitsrisikos viel höhere Prämien bezahlen müssten. «Daten sind für Unternehmen mit einer grossen Verantwortung verbunden. Das haben bei weitem noch nicht alle verstanden.»
Interview
Interview mit Bruno Baeriswyl, Datenschutzbeauftragter des Kantons Zürich
«Firmen wissen mehr über uns, als wir glauben.»
«Daten sind für Unternehmen mit einer grossen Verantwortung verbunden. Das haben bei weitem noch nicht alle verstanden.»
Karin Lange
Kontrolle über die Daten
Mit den Mitgliedern der Fachgruppe Data-Ethics diskutiert Christoph Heitz intensiv darüber, welche ethischen Standards bei der Nutzung von Daten und der Entwicklung von Algorithmen berücksichtigt werden müssen. Bis Ende des Jahres will die Fachgruppe einen Ethik-Kodex für Firmen entwickeln. Dieser soll Fragen rund um die Nutzung von Daten systematisch beleuchten. Zum Beispiel, welche Daten von Firmen überhaupt erfasst und gespeichert werden sollten. Wer die Kontrolle über die Daten ausüben soll und zu welchem Zweck diese ausgewertet werden dürfen. «Wir stehen noch ganz am Anfang dieser Diskussion», sagt Heitz. «Aber es sind Fragen, denen sich alle Entwickler und Anwender von datengestützten Algorithmen stellen müssen.» Nur so könne man dafür sorgen, dass Algorithmen auch in Zukunft den Interessen der gesamten Gesellschaft dienten.
Hochschulmagazin ZHAW-Impact
«Ethik» lautet das Dossier-Thema der aktuellen Ausgabe des Hochschulmagazins ZHAW-Impact. Wir berichten über den Besuch des Dalai Lama an der ZHAW und seinen Appell, in der Bildung mehr Gewicht auf innere Werte zu legen. Wir zeigen welchen Stellenwert Ethik im Studium und in der Forschung an der ZHAW hat. Eine Themenauswahl: Medizinische Berufe zwischen Fürsorge und Patientenautonomie, zwischen Leben erhalten und Sterbefasten. Architektur zwischen Design und Stadtreparatur. Big Data zwischen fairen und diskriminierenden Algorithmen. Bei solchen Dilemmata kann Ethik helfen, diese einzuordnen, Handlungsmuster zu überdenken, um letztlich angemessene Entscheidungen treffen zu können.
- Zum Magazin
- Als Printmagazin oder Infomail abonnieren
- Als App für iPhone und iPad oder für Android-Geräte