Kennen Sie das: Sie wollen ein neues technisches Produkt – ob nun Hardware oder Software an den Start bringen, die Bedienung soll angeblich intuitiv sein, aber irgendwie ist es das überhaupt nicht?
Das ist kein Anwendungsfehler wie Sie vielleicht vermuten würden, sondern hat etwas damit zu tun, dass Soft- und Hardware zu oft von einem sehr eingeschränkten Kreis an Mitarbeitenden entwickelt werden. Vor allem im Informatikbereich sind die Produktentwickelnden oft männlich, akademisch, weiß mit Vorliebe für MINT Fächer. Wenn ich mir vor Augen führe, dass dieser Stereotyp für einen Großteil unserer modernen Kommunikationsmittel verantwortlich ist, schlägt die Soziologin in mir die Hände über den Kopf zusammen.
Durch den Einsatz von Algorithmen, also einem maschinellen Lernprozess, der sich auf Grund von gesammelter Daten weiterentwickelt wird dieser Effekt noch verstärkt.
Algorithmen bestimmen zunehmend unseren Lebensalltag – nicht nur im Internet. Sie entscheiden über Inhalte und Nachrichten die wir sehen, Videos und Filme die wir konsumieren und wessen aktuellen Social Media Post wir in unserem Feed angezeigt bekommen.
Algorithmen helfen uns die Unendlichkeit des Internets sinnvoll einzugrenzen. Sie gestalten daher unmittelbar in welchem Teil des Internets wir leben. Das erleichtert unseren Online-Alltag, allerdings bergen sich Gefahren in algorithmisch basierten Differenzierungen, die leicht zu Diskriminierungen werden können.
Statistische Diskriminierung findet dann statt, wenn nur begrenzt Daten vorliegen und diese zur Differenzierung herangezogen werden. Datensätze wurden in der Vergangenheit nicht divers genug erhoben und sind daher für marginalisierte Gruppen weniger und gar nicht geeignet. Denn moderne Lernalgorithmen nutzen vorgegebene Informationssammlungen um darin Muster oder logische Verbindungen zu erkennen und Gesetzmäßigkeiten offenzulegen auf die sich Entscheidungen stützen können.
Doch nur, weil Entscheidungen auf Daten beruhen, heißt das noch lange nicht, dass sie frei von Diskriminierung sind. Es wäre ein Fehlschluss zu glauben eine Maschine würde das Datenmaterial rational und ohne Bias analysieren und so zu einer objektiv wirkenden Entscheidung kommen.
Denn ein Algorithmus nur so gut wie die Daten und den Zielvariablen mit denen er arbeitet. Diese Zielvariablen werden von Menschen mit ihrer ganz persönlichen kulturellen Brille definiert. Daraus entsteht ein Phänomen, das als code embedded opinion bezeichnet wird.
Hinter diesen subjektiven Verzerrungen und Tendenzen sind meistens gar keine diskriminierenden Absichten dahinterstecken, sondern durch die persönliche Perspektive auf einen Sachverhalt, der als wenn-dann Lernauftrag an den Algorithmus gegeben wird, wird durch die Masse der Daten ein nicht beabsichtigter Diskriminierungseffekt erzeugt. Auch die Datenbasis kann unvollständig bzw. tendenziös sein.
Wie entkomme ich also meiner algorithmisch erzeugten Internetbubble? Wie bleibe ich offen für alle Menschen? Wie bleibt Pluralität, Anders Sein in einer zunehmend digitalen sozialen Welt normal?
Der digitale Wandel wird zu einem deutlich größeren Teil von Männern gestaltet. Unter Bewerbern auf Stellen für Software-Entwickler liegt der Frauenanteil gerade einmal bei 18% (Auswertung stepstone Stellenportal 2019). Es ist völlig klar, dass unter solchen Bedingungen Verzerrungen im digitalen Raum entstehen.
Was kann man tun um algorithmischen Diskriminierung zu vermeiden:
- Mehr Vielfalt im Bereich der Entwicklung von Software Anwendungen anstreben. Nicht nur mehr Frauen, sondern auch auf soziale, kulturelle und linguistische Komponenten achten
- Partizipatorische Strukturen nicht nur im Planungs- sondern auch im Entwicklungsprozess schaffen
- Chancengerechtigkeit als Ziel formulieren und strukturell verankern (ethics by design)
- Staatliche Regulierungen schaffen
Nur wenn Chancengerechtigkeit als Ziel in KI- und Software-Entwicklung definiert ist, wird es uns möglich sein, die digitale Welt als einen Ort zu gestalten, an dem niemand ausgeschlossen wird. Ansonsten ist der gesellschaftliche Anspruch des westlichen Internets ein freier Ort zu sein, eine längst verlorene Utopie.