Prof. Dr. Susanne Lilian Gössl

Geschlechtergleichstellung und Diskriminierung durch Algorithmen

Ein weiterer Forschungsaspekt ist jener der Geschlechtergleichbehandlung. Während das Privatrecht grundsätzlich davon ausgeht, dass alle Personen in „männlich“ und „weiblich“ eingeteilt werden können, ist in einigen Rechtsordnungen, auch in Deutschland, inzwischen anerkannt, dass diese beiden Kategorien nicht ausreichen, alle Menschen zu erfassen. Mit der Einführung von zwei weiteren Geschlechtsoptionen, u.a. dem „dritten Geschlecht“ werden aber auch zahlreiche Anpassungen des Privatrechts notwendig, die bisher noch nicht oder nur zögerlich stattgefunden haben. Besondere Risiken aber auch Chancen, insbesondere auch bei Abbau von Geschlechtsdiskriminierungen, bieten die neuen Technologien bei Fragen der künstlichen Intelligenz (KI) und ihrer Regulierung. Da KI anhand von bestehenden Daten trainiert wird und lernt, besteht eine erhebliche Gefahr, dass sie sich auch unbewusste Vorurteile der Personen, von denen die Daten stammen, antrainiert. So können KI schnell sexistische oder rassistische Tendenzen entwickeln, wenn bei der Bestimmung der Lernmenge nicht darauf geachtet wird, auch Daten einfließen zu lassen, die es in der Realität vielleicht nicht gibt, die aber existieren müssten, um eine neutrale Datenmenge zu erhalten. Wie diese Daten ermittelt werden bzw. in welchem Umfang sie notwendig sind, wird von den verschiedenen Rechtsordnungen unterschiedlich behandelt. Auch ist das Bewusstsein sehr unterschiedlich. Fragen der Diskriminierung durch Algorithmen und auch der Qualitätskontrolle werden aktuell vor allem national diskutiert, doch insbesondere in der EU stellen sich hier auch Fragen der gegenseitigen Anerkennung oder eben der Regulierung im grenzüberschreitenden Bereich.