Ist Künstliche Intelligenz frauenfeindlich?


Liebe Steemianer
Benachteiligte ein Künstliche Intelligenz-System (AI), das eingesetzt worden war, um Bewerber vorzuselektieren, systematisch Frauen? Genau das scheint bei einem von Amazon zu diesem Zweck entwickelten Algorithmus passiert zu sein, zumindest laut der Quelle (1). Als Grund wurde angegeben, die AI war trainiert worden mit vergangenen erfolgreichen Bewerbungen. Da aber in der Vergangenheit wesentlich mehr Männer als Frauen eingestellt worden waren, übernahm die AI diese Bewertung und stufte Frauen generell schwächer ein. Das Geschlecht des Bewerbers wie sein/ihr Name waren dem Algorithmus nicht sichtbar (fairness by unawareness), aber es gab offenbar geschlechtsspezifische Hinweise wie Mitgliedschaften bei Vereinen, soziales Engagement etc.

Werden bei der Kreditvergabe Bewohner bestimmer Stadtteile diskriminiert, nur weil eine AI lernte, dass Kreditnehmer mit Adressen aus bestimmten Stadtteilen in der Vergangenheit ihre Kredite weniger oft zurückzahlen konnten?

Benachteiligen Algorithmen, die die Rückfallgefahr von Straftätern prognostizieren, Schwarze, wie das der Verein propublica.org behauptete und "mit Einzelfällen untermauerte" (2)? Solche Tools werden in den USA häufig eingesetzt, um z.B. die Höhe einer Kaution festzulegen oder über vorzeitige Haftentlassungen zu entscheiden. Als Parameter fließen ein, "ob sich die Eltern des Beschuldigten getrennt haben, ob Freunde oder Verwandte im Gefängnis waren, wie oft sie umgezogen sind oder wie oft sie mit ihrem Geld gerade so über die Runden kommen" (3). Eine Frage nach der Hautfarbe selbst gehört nicht dazu.

3 völlig unterschiedliche Beispiele, in allen 3 Fällen scheinen AI-Systeme systematisch zu diskriminieren. Was sagt uns das über die Künstliche Intelligenz? Nicht viel, denn ein Algorithmus ist nur so gut wie die Daten, die ihm zugrunde liegen und die Parameter, an denen die Erfolge bei der Mustererkennung oder bei einer Vorhersage beurteilt werden. Diese Parameter legen freilich Menschen fest, die Vorurteile haben oder nicht haben. Die interessantere Frage ist aber: Was sagt uns das über Diskriminierung bzw. vermeintliche Diskriminierung?

image.png

Diskriminierung ist ja die systematische Benachteiligung von Personen oder Gruppen aufgrund bestimmter Wertvorstellungen oder auch unbewusster Einstellungen oder Vorurteile (4). Das Wort kommt vom lat. discriminare, was einfach unterscheiden heißt, ohne (Ab)Wertung. Also einen Unterschied feststellen. Im Lauf der Geschichte kam es allmählich zu einem Bedeutungswandel vom unterscheiden zum abwertenden diskriminieren, da leider oft die festgestellten Gruppen unterschiedlich bewertet wurden. Prägnantestes Beispiel ist sicher der Rassismus, der millionenfaches Leid über die Welt gebracht hat.

Nun läßt sich aber einfach nicht leugnen, dass Männer und Frauen anders sind. Im Sport gibt es unterschiedliche Bewerbe für Männer und Frauen (apropos, ich frage mich, wann die erste Olympiade stattfindet mit einer dritten Kategorie für alle anderen Geschlechter außer m/w).

In der Bekämpfung jeglicher Diskriminierung geht man aber mittlerweile so weit, dass beinahe bei jeder Unterscheidung, oder bei der bloßen Feststellung eines Unterschiedes (z.B. "es wurden mehr Männer als Frauen eingestellt", siehe oben) sofort Diskriminierung! gerufen wird. Die eigentliche Frage ist, was ist noch ein legitimerweise festgestellter Unterschied und wo beginnt die Diskriminierung? Wenn es um Bergwerksarbeiter geht, wäre die Feststellung "es wurden mehr Männer als Frauen eingestellt" wohl keine Diskriminierung, aber bei Installateuren, Speditionsmitarbeitern, Briefträgern, Fahrradkurieren? Wo ist die Grenze? Und wer darf sie festlegen? Darf ein Geschäftsführer für seinen Betrieb festlegen, dass er keine Ausfälle durch Schwangerschaften haben will? Ist es legitim, dass Interessensgruppen und Minoritäten der Mehrheit diktieren, was eine Diskriminierung ist, wie es derzeit passiert?

Außerdem missverstehen viele bei AI-unterstützen Algorithmen, dass ein Prognose (egal ob für einen Erfolg im Job, einen Rückfall oder einen Kreditausfall) einfach eine Wahrscheinlichkeitsvorhersage ist, bei der man mit Fehlern - notwendigerweise - rechnen muss. Weil aber Einzelpersonen involviert sind, gilt jeder Fehler als für diese ungerecht, obwohl das System eventuell insgesamt treffsicherer wäre als ohne AI. Der Individualismus, der in den entwickelten Ländern so in den Himmel gehoben wird (weil nur er die Grundlage für den altenativlosen Konsumkapitalismus ist, der die Profite der Konzerne maximiert) siegt hier vermutlich gegen die Vernunft (vermutlich, weil ich die Einzelheiten der Algorithmen in den 3 Beispielen nicht kenne).

Hierzulande gilt ja die Devise "Alle sind gleich". Für Deutsche, aber auch social justice warriors in aller Welt ist nichts schlimmer als Ungleichheit. Zum Beispiel in der Schule haben alle Kinder das gleiche Recht auf gute Schulnoten, man müsse nur genug fördern, um die intellektuell Benachteiligten auf das gleiche Level zu bringen wie die anderen. Auch die Besteuerung bestraft diejenigen mit hohem Einkommen überproportional, um Geringverdiener und Taugenichtse zu fördern. In beiden Fällen wird von oben nach unten verteilt (hochbegabte Kinder müssen sich langweilen bzw. werden nicht adäquat gefördert) und dadurch die vermeintlich Bevorzugten (talentierter, bessere Jobs (die einem ja meist nicht in den Schoß fallen)) selbst benachteiligt! D.h. man ersetzt eine Benachteiligung nur durch eine andere, ohne freilich das Kind beim Namen zu nennen, denn Wählerstimmen bekommt man nur durch Anbiederung an die Masse. OK, es gibt vereinzelt Hochbegabtenförderung, aber ich denke nicht genug. Spätestens zum Studium oder nach der Uni wandern viele High-Potentials ins Ausland ab. Und nicht nur die - in Deutschland hat allein das leistungsfeindliche Besteuerungssystem bereits solche Ausmasse angenommen, dass viele Gutverdienende schon ins Ausland abwanderten (5). Eine bedenkliche Entwicklung.

Die für viele schreckliche Wirklichkeit ist, dass die Menschen eben nicht gleich sind. Sie haben verschiedene Vorlieben und Talente, Begabungen, aber auch Macken und Schwächen. Je nachdem, welche Einstellung man hat, wird man in obigen Beispielen natürlich entweder ebenfalls sofort Diskriminierung! rufen, oder erst überlegen, was die Ursachen dieser von den AIs gefundenen Unterschiede sein könnten.

In diesem Zusammenhang erwähnenswert ist auch das Simpson-Paradox, das man kennen sollte und das manchmal eine vermeintliche Diskriminierung erklären kann. Am vielleicht berühmtesten ist die Diskriminierungsklage gegen die Universität Berkeley, die verklagt wurde, weil 1973 männliche Bewerber eine 44%-Chance hatten, aufgenommen wurden, aber Frauen nur eine 35%ige.
image.png
Als man genauer hinsah, stellte sich aber heraus, dass Frauen sich tendenziell bei den stark überlaufenen Studienfächern beworben hatten (geistes- und sozialwissenschaftliche), wo es für beide Geschlechter niedrigere Zulassungsraten gab, während Männer ihre Bewerbungen tendenziell dorthin sandten, wo es generell höhere Zulassungsraten gab (weil diese weniger nachgefragt waren, z.B. Chemie oder Ingenieurswissenschaften). Also keine Diskriminierung, obwohl es auf den ersten Blick so aussah! Das Geschlecht beeinflusste die Fächerwahl (6).

Forscher am Max-Planck-Institut für Intelligente Systeme in Tübingen (dessen Direktor, Bernhard Schölkopf hat unlängst den mit 1Mio€ dotierten Körber-Preis erhalten (7)) wollen nun auch AIs "Fairness" beibringen (8).

Doch was ist Fairness? Ist diese überhaupt programmierbar und wenn ja, ist sie nicht nicht nur max. so gut wie die Wertvorstellung desjenigen, der sie in den Algorithmus programmiert?

Abgesehen davon, wie weit soll Fairness gehen? Derzeit sind Geschlecht, sexuelle Präferenz, Behinderungen und Rasse (v.a. in den USA) im Vordergrund, aber ist es nicht genauso diskriminierend, wenn Unternehmen Menschen über 50 rausschmeissen, weil diese zu teuer sind oder zu unflexibel? Nur weil die "Alten" keine lautstarke Lobby haben, ist es nicht weniger diskriminierend, sie komplett zu ignorieren? Wenn man es weit genug treibt, gehört bald jeder von uns zu irgendeiner Minderheit, gegen deren Diskriminierung angekämpft werden muss.
Ist aber eine Gesellschaft bzw. Kultur, deren oberstes Ziel nicht Wettbewerbsfähigkeit (und damit einhergehender Wohlstand), sondern sozialer Ausgleich ist, nicht langfristig zum Scheitern verurteilt? Würde es angesichts des Mangels an MINT-Fachkräften (9) nicht Not tun, hier kräftig gegenzusteuern anstatt flächendeckend minoritätenfördernde Genderbeauftragte zu installieren (in D. gibt es bereits über 200 Gender-Professuren (10))?

Fazit:
Mehr Fragen als Antworten. Ich hoffe, diese Fragen regen zu selbstständigem Denken an anstatt dem blinden Folgen von Meinungen von lautstarken Interessensgruppen, auch wenn sie auf den ersten Blick noch so vernünftig und gerecht erscheinen!

Quellen:

(1) https://www.heise.de/newsticker/meldung/Amazon-KI-zur-Bewerbungspruefung-benachteiligte-Frauen-4189356.html
(2) https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
(3) https://www.heise.de/newsticker/meldung/US-Justiz-Algorithmen-benachteiligen-systematisch-Schwarze-3216770.html
(4) https://de.wikipedia.org/wiki/Diskriminierung
(5) https://www.nzz.ch/meinung/deutschlands-doppeltes-migrationsproblem-zu-und-abwanderung-ld.1464988
(6) https://deacademic.com/dic.nsf/dewiki/1291483
(7) https://www.koerber-stiftung.de/koerber-preis-fuer-die-europaeische-wissenschaft/bisherige-preistraeger/2019
(8) https://cyber-valley.de/de/news/isabel-valera-leitet-die-neue-unabhangige-forschungsgruppe-probabilistic-learning-am-mpi-is
(9) https://www.handelsblatt.com/politik/deutschland/iw-studie-mangel-bei-mint-fachkraeften-steigt-auf-rekordhoch/23137014.html?ticket=ST-51115897-7xZVNG0c6oPxSoue6I3b-ap4
(10) https://www.tichyseinblick.de/feuilleton/buecher/die-gender-forschung-greift-um-sich/

Diskriminierung oder nicht?
image.png


Comments 6


Du wurdest als Member von @investinthefutur gevotet!

25.10.2019 16:43
0

Mal ein Beispiel aus dem Berufsalltag:

Eine Frau bewirbt sich als Lagerarbeiterin und wird aufgrund einer Quotenregelung eingestellt.
An einem normalen Arbeitstag muss sie mehrmals pro Stunde eine Europalette heben. Diese wiegt allerdings ca. 22 kg. Da sie eine Frau ist, darf sie nicht mehr als 15 kg heben. Also sucht sie sich jedes Mal einen Mann für diese Tätigkeit, denn der muss schließlich bis zu 55 kg heben können. Dafür unterbricht sie jedes Mal ihre Arbeit und der Mann muss ebenfalls seine Arbeit unterbrechen. (Davon, dass evtl. auch noch Ware auf die Palette drauf muss, die mehr als 15 kg wiegt, rede ich jetzt erst gar nicht)
Selbst verständlich möchte sie den selben Lohn haben, wie der männliche Kollege, denn schließlich macht sie ja den selben Job...

PS: Mir tut die Oma Leid, die kein Lego mehr spielen darf.

Ich hoffe, ich darf Oma sagen. Es könnte ja auch sein, dass sie gar keine Enkel hat. Außerdem spezifiziert sie das Wort Oma als Frau. Oh mein Gott! Das könnte man jetzt so auslegen, als hätte ich gesagt, Frauen wären eine andere Spezies. Ich reite mich immer weiter in die Scheiße. Und Gott hab ich jetzt auch noch mit rein gezogen. Hab ich jetzt diejenigen diskriminiert, die nicht an Gott glauben?

Posted using Partiko Android

25.10.2019 23:41
4

als hätte ich gesagt, Frauen wären eine andere Spezies

Frauen sind eine andere Spezies. Und je schneller Du das kapierst, desto glücklicher wird der Rest deines Lebens verlaufen.

26.10.2019 08:53
2

😆😅

26.10.2019 09:04
0

Also is Dascha bei mir im Lager
das ist sehr stark, wir Sagen auch Superdascha zu ihr

27.10.2019 10:03
0