Sexistische Algorithmen: Apple benachteiligt weibliche Kunden

(5 Bewertungen, 4.20 von 5)

Die New Yorker Finanzaufsichtsbehörde hat eine offizielle Untersuchung beim Apple-Card-Partner Goldman Sachs angekündigt. Betroffen sind die Prozesse rund um die Bonitätsprüfung von Kunden – und vor allem von Kundinnen. Denn eine Reihe prominenter Apple-Card-Besitzer hat festgestellt: Trotz eines gemeinsamen Vermögens unterscheiden sich die Kreditrahmen von Ehemann und Ehefrau erheblich.

Viraler Tweet zeigt Problem auf

Apple-Mitbegründer Steve Wozniak und seine Ehefrau Janet Hill haben ein gemeinsames Vermögen, verteilt auf mehrere gemeinsame Konten. Bei einer Prüfung der Zahlungsfähigkeit sollten beide Eheleute also gleich abschneiden, findet „The Woz“. Die meisten seiner Banken und Kartenanbieter sehen das genauso. Ausgerechnet für die Apple Card allerdings scheinen andere Regeln zu gelten. Sie gewährt dem IT-Ingenieur einen zehnmal so hohen Kreditrahmen wie seiner Frau. Und das Paar ist keine Ausnahme. Auch Unternehmer David Heinemeier Hansson spricht auf Twitter von einem „sexistischen Algorithmus“, der Frauen bei der Beurteilung ihrer Zahlungsfähigkeit benachteilige. Trotz gemeinsamer Veranlagung könne auch er mit der Apple Card das Zwanzigfache von dem ausgeben, was seiner Frau zugebilligt werde.

„Verdammt sexistisches Programm“

Nach viralen Tweets von Wozniak und Heinemeier Hansson melden sich auf Twitter zahlreiche weitere Apple-Card-Besitzer mit ähnlichen Erfahrungen. Das IT-Unternehmen selbst verweigert bisher jede Stellungnahme. Goldman Sachs allerdings, das Finanzinstitut hinter der Kreditkarte, weist die Vorwürfe zurück. Das Geschlecht eines Kunden habe keinerlei Auswirkung auf die Beurteilung der Bonität. Vielmehr prüfe der Algorithmus jeden Karteninhaber individuell anhand zahlreicher Faktoren. Es sei durchaus möglich, dass das Programm bei zwei Mitgliedern einer Familie zu unterschiedlichen Ergebnissen komme.

Schwachpunkte künstlicher Intelligenz

Dass Algorithmen nicht weniger Vorurteile haben als menschliches Personal, ist inzwischen bekannt. Vor rund einem Jahr entschied sich Online-Riese Amazon, auf ein KI-Programm zur Vorauswahl künftiger Mitarbeiter zu verzichten. Während einer vierjährigen Testphase hatte sich gezeigt, dass die Technologie männliche Bewerber klar bevorzugte. Der Grund: Um das Programm zu „trainieren“, hatten es seine Entwickler immer wieder mit diversen Lebensläufen gefüttert. Vor allem für technische Positionen allerdings standen fast nur Unterlagen von Männern zur Verfügung. Das System lernte daraus, männliche Kandidaten grundsätzlich zu bevorzugen.

Fazit

In den Streit um die Apple Card hat sich inzwischen die Finanzaufsicht des Staats New York eingeschaltet und eine offizielle Untersuchung angekündigt. Würde Goldman Sachs bei der Prüfung der Kreditwürdigkeit Frauen systematisch benachteiligen, wäre das ein Verstoß gegen staatliche Gesetze. Schon jetzt aber hat der Ruf des IT-Unternehmens und seiner Kreditkarte durch die aktuelle Diskussion gelitten.

Anzeige
Sagen Sie uns Ihre Meinung zum Thema.
Captcha Aktualisieren
Diese Beiträge könnten Sie ebenfalls interessieren:
Weiterlesen...
Verstärkung gesucht: Studenten / Referendar / Anwalt (m/w) für eRecht24 Die IT- und Internetrechtsplattform eRecht24 mit Sitz in Berlin-Charlottenburg sucht ab sofort einen Studenten (m/w), Referendar (m/w) oder Anwalt (m/w) zur fre...
Weiterlesen...
Neues eRecht24-eBook - Die rechtssichere Website Wer mit der eigenen Website im Internet präsent ist, muss sich an eine Vielzahl von Gesetzen halten. Dies gilt für private Seitenbetreiber ebenso wie ...
Weiterlesen...
Informatik-Studenten können Wahlcomputer manipulieren Werden die nächsten Wahlen, bei denen die so genannten Wahlcomputer eingesetzt werden, durch Hacker und Informatik-Studenten entschieden? Es ist zumindest zu be...
Weiterlesen...
Fake-Abmahnungen: Trittbrettfahrer zocken per E-Mail ab Mit angeblichen Mahnungen des Rechtsanwalts  Olaf Kaltbrenner nutzen betrügerische Trittbrettfahrer Abmahnwellen der Unterhaltungsindustrie aus. Per E-Mail...
Weiterlesen...
Video on Demand: Darf YouTV einfach alle TV-Sendungen aufzeichnen? Lieblingssendung aufnehmen, später ansehen, Werbung vorspulen: Das mögen viele Nutzer an Aufzeichnungsgeräten wie YouTV. Aber dürfen Online-Videorekorder einfac...
Anzeige DSGVO

Der eRecht24 Newsletter

Immer bestens informiert

Bleiben Sie mit unseren kostenlosen Updates zum Internetrecht auf dem neuesten Stand. Infos, Urteile, Checklisten, Sonderangebote.

Hinweis: Sie können den Newsletter von eRecht24  jederzeit und kostenfrei abbestellen. Ihre Daten werden nur zum Versand des Newsletters genutzt. Wir geben Ihre Daten nicht weiter. Mehr Informationen zum Umgang mit Nutzer-Daten finden Sie in unserer Datenschutz-Erklärung.

loading...
Jetzt Premium-Mitglied werden

Ab Heute gestalten Sie Ihre Website ohne Angst vor Abmahnwellen und ohne teuren Anwalt abmahnsicher.

Alle Videos, Live-Webinare, E-Books, Tools und zahlreiche Rabatte.

Jetzt Mitglied werden

Mehr Informationen zu eRecht24 Premium

Impressum-Generator

Keine Chance für Abmahner

Erstellen Sie kostenlos ein rechtssicheres Impressum für Ihre Website.

Jetzt Kostenlos Impressum generieren

Rechtsberatung vom Anwalt

Haben Sie ein konkretes rechtliches Problem? Dann wenden Sie sich bitte einen Anwalt. Auf unseren Seiten finden Sie zahlreiche allgemeine Informationen zum Internetrecht. Fundierte Rechtsberatung im Einzelfall kann allerdings nur ein spezialisierter Rechtsanwalt leisten.

Inhalte kostenlos übernehmen

Der eRecht24 Newsticker

kostenfreie aktuelle Inhalte zum Internetrecht

Individuell für Ihre Website angepasst!

 

SSL-Zertifikate

Steigern Sie das Vertrauen Ihrer Kunden. Für Betreiber von Onlineshops und kommerziellen Webseiten unabdingbar:

SSL-Verschlüsselung, SSL-Zertifikate und Trust-Logos

Rechnungen online erstellen

Erstellen Sie Ihre Rechnungen gemäß den Anforderungen des Finanzamts doch einfach online!

Mit easybill bequem ordnungsgemäße Rechnungen schreiben inkl. digitaler Signatur und Datenexport zum Steuerberater. Anforderungen an korrekte Rechnungen mit Mustern und Beispielen.

IT-Recht endlich verständlich

Autor Sören SiebertSören Siebert ist Rechtsanwalt mit Kanzleien in Berlin und Potsdam.

Er berät Unternehmer, Shops und Seitenbetreiber in allen Fragen des Rechts der neuen Medien.
www.kanzlei-siebert.de

Als Betreiber von eRecht24 ist er seit mehr als 15 Jahren auch als Internet-Unternehmer tätig. Deshalb finden Sie auf eRecht24 Tipps und Tricks eines spezialisierten Rechtsanwalts, aber verständlich und praxisnah erklärt.

SSL-Zertifikate, Code-Signing, S/MIMEOrdnungsgemäße Rechnungen einfach online erstellen!Suchmaschienoptimierung & OnlinemarketingDatenschutzRechtliche OnlineShop-PrüfungFairness im Handel
Anzeige
eRecht24 - Unsere praktischen Tools und hilfreichen Tutorials

mitgliederbereich teaser

Exklusiv für unsere Mitglieder

Alles was Webseitenbetreiber, Agenturen und Selbständige wirklich brauchen: Videos und E-Books, Musterverträge und Erstberatung, Tools und Live-Webinare.

Mehr Informationen

dsgvo teaser

DSGVO Schnellstarter-Paket

Das Datenschutzrecht ändert sich ab Mai 2018 vollständig. Sind Sie bereit für die DSGVO? Mit unserem Schnellstarter-Paket sichern Sie Ihre Webseite ab.

Jetzt absichern

webinar teaser

Online Schulung mit Rechtsanwalt Siebert

Die 7 häufigsten Abmahnfallen auf Webseiten und wie Sie diese schnell, einfach und ohne teuren Anwalt vermeiden. So haben Abmahner bei Ihnen keine Chance!

Mehr Details
Support