Sexistische Software: Amazon-KI wertet weibliche Bewerber ab

(0 Bewertungen, 0 von 5)

Es hätte die Suche nach neuen Mitarbeitern enorm vereinfacht. Doch nach vierjähriger Versuchszeit mit diversen Rückschlägen muss das Entwicklerteam von Amazon einsehen: Das Recruiting-Tool hat ein Problem. Und zwar mit Frauen. Der Traum einer schnellen, neutralen und erfolgreichen Bewerberauswahl scheitert daran, dass die künstliche Intelligenz gelernt hat, weibliche Kandidaten grundsätzlich schlechter zu bewerten.

Kandidatenauswahl per Algorithmus

Fünf Sterne hatte das Programm im Bestfall zu vergeben; einen Stern bekamen die ungeeigneten Bewerber. Ebenso wie bei der Produktbewertung im Online-Shop sollte auch bei der Bewerbersuche ein Algorithmus die Auswahl erleichtern. So erzählten es jetzt fünf Amazon-Entwickler der Nachrichtenagentur Reuters. Zunächst musste das Tool allerdings lernen, welche Kriterien für die verschiedenen Berufsbilder ausschlaggebend waren. Dazu verwendeten die Programmierer Lebensläufe, die dem Unternehmen in den vergangenen zehn Jahren zugegangen waren. Die künstliche Intelligenz filterte Gemeinsamkeiten und wiederkehrende Muster heraus und bildete so ihr Urteil.

Positives Kriterium: Kandidat ist männlich

Was die Entwickler nicht bedacht hatten: Die Bewerbungen als Programmierer oder für andere technische Positionen waren zum größten Teil von Männern geschrieben worden. Indem sie vorwiegend männliche Lebensläufe für das Training verwendeten, hatten sie dem Algorithmus beigebracht, Frauen systematisch zu benachteiligen. Tauchte in einer Bewerbung das Wort „Frauen“ auf – „Mitglied der Frauenmannschaft“ beispielsweise - führte das zur Abwertung. Auch Kandidatinnen von reinen Frauen-Colleges hatten schlechtere Chancen.

Vorgang zeigt Grenzen künstlicher Intelligenz auf

Zwar versuchte das Entwicklerteam daraufhin, dem Algorithmus eine genderneutrale Auswahl beizubringen. Es sei aber deutlich geworden, dass Diskriminierung durch KI nicht generell auszuschließen sei. Inzwischen nehme man die Empfehlungen des Programms bei der Bewerberauswahl zwar zur Kenntnis, verlasse sich aber nicht darauf. Die Vorstellung, dass das Recruiting künftig dem Computer überlassen werden könnt, habe man ganz aufgegeben. Von offizieller Seite gibt es keinerlei Statement des Amazon-Konzerns. Nur so viel: Man lege Wert auf Gleichberechtigung und Diversität bei der Bewerberauswahl.

Fazit

Die Hälfte aller Personalchefs gibt an, künftig verstärkt bei der Einstellung auf KI-Programme zu setzen. Doch auch künstliche Intelligenz ist nicht über menschliche Schwächen erhaben. Das gilt zumindest, solange die Programme von Menschen programmiert werden.

Anzeige
Sagen Sie uns Ihre Meinung zum Thema.
Diese Beiträge könnten Sie ebenfalls interessieren:
Weiterlesen...
Raubkopien: Microsoft will Verbraucher als Fahnder einsetzen Die illegale Verbreitung urheberrechtlich geschützter Software ist noch immer eines der größten Probleme für Software-Unternehmen. Ganze Unternehmen haben sich ...
Weiterlesen...
WhatsApp: Messanging-App nicht mehr im App Store erhältlich Die beliebte mobile Messanging-App „WhatsApp“ ist seit ca. 2 Tagen nicht mehr im App Store verfügbar. Über den Grund für das plötzliche Verschwinden dieser App ...
Weiterlesen...
Kfz-Versicherung: Nutzung von Wundercar-App kann Kündigung nach sich ziehen Autofahrer, die als Privatfahrer für den App-Anbieter Wundercar unterwegs sind, müssen mit der fristlosen Kündigung ihre Haftpflichtversicherung rechnen. Für ...
Weiterlesen...
Google Fotos: Text in Bildern lässt sich googeln Bereits 2018 angekündigt und nun endlich für die User umgesetzt: Die Texterkennung in Google Fotos kann ab sofort genutzt werden – und zwar sowohl mit lateinisc...
Weiterlesen...
Stiftung Warentest: Musicload ist beste Musik-Download-Plattform Das legale Herunterladen von Musik aus dem Internet nimmt immer mehr zu – vielleicht war auch dies ein Grund für die Stiftung Warentest, einmal neun Musikshops ...
Anzeige DSGVO

Der eRecht24 Newsletter

Immer bestens informiert

Bleiben Sie mit unseren kostenlosen Updates zum Internetrecht auf dem neuesten Stand. Infos, Urteile, Checklisten, Sonderangebote.

Hinweis: Sie können den Newsletter von eRecht24  jederzeit und kostenfrei abbestellen. Ihre Daten werden nur zum Versand des Newsletters genutzt. Wir geben Ihre Daten nicht weiter. Mehr Informationen zum Umgang mit Nutzer-Daten finden Sie in unserer Datenschutz-Erklärung.

loading...
Jetzt Premium-Mitglied werden

Ab Heute gestalten Sie Ihre Website ohne Angst vor Abmahnwellen und ohne teuren Anwalt abmahnsicher.

Alle Videos, Live-Webinare, E-Books, Tools und zahlreiche Rabatte.

Jetzt Mitglied werden

Mehr Informationen zu eRecht24 Premium

Impressum-Generator

Keine Chance für Abmahner

Erstellen Sie kostenlos ein rechtssicheres Impressum für Ihre Website.

Jetzt Kostenlos Impressum generieren

Rechtsberatung vom Anwalt

Haben Sie ein konkretes rechtliches Problem? Dann wenden Sie sich bitte einen Anwalt. Auf unseren Seiten finden Sie zahlreiche allgemeine Informationen zum Internetrecht. Fundierte Rechtsberatung im Einzelfall kann allerdings nur ein spezialisierter Rechtsanwalt leisten.

Inhalte kostenlos übernehmen

Der eRecht24 Newsticker

kostenfreie aktuelle Inhalte zum Internetrecht

Individuell für Ihre Website angepasst!

 

SSL-Zertifikate

Steigern Sie das Vertrauen Ihrer Kunden. Für Betreiber von Onlineshops und kommerziellen Webseiten unabdingbar:

SSL-Verschlüsselung, SSL-Zertifikate und Trust-Logos

Rechnungen online erstellen

Erstellen Sie Ihre Rechnungen gemäß den Anforderungen des Finanzamts doch einfach online!

Mit easybill bequem ordnungsgemäße Rechnungen schreiben inkl. digitaler Signatur und Datenexport zum Steuerberater. Anforderungen an korrekte Rechnungen mit Mustern und Beispielen.

IT-Recht endlich verständlich

Autor Sören SiebertSören Siebert ist Rechtsanwalt mit Kanzleien in Berlin und Potsdam.

Er berät Unternehmer, Shops und Seitenbetreiber in allen Fragen des Rechts der neuen Medien.
www.kanzlei-siebert.de

Als Betreiber von eRecht24 ist er seit mehr als 15 Jahren auch als Internet-Unternehmer tätig. Deshalb finden Sie auf eRecht24 Tipps und Tricks eines spezialisierten Rechtsanwalts, aber verständlich und praxisnah erklärt.

SSL-Zertifikate, Code-Signing, S/MIMEOrdnungsgemäße Rechnungen einfach online erstellen!Suchmaschienoptimierung & OnlinemarketingDatenschutzRechtliche OnlineShop-PrüfungFairness im Handel
Anzeige
eRecht24 - Unsere praktischen Tools und hilfreichen Tutorials

mitgliederbereich teaser

Exklusiv für unsere Mitglieder

Alles was Webseitenbetreiber, Agenturen und Selbständige wirklich brauchen: Videos und E-Books, Musterverträge und Erstberatung, Tools und Live-Webinare.

Mehr Informationen

dsgvo teaser

DSGVO Schnellstarter-Paket

Das Datenschutzrecht ändert sich ab Mai 2018 vollständig. Sind Sie bereit für die DSGVO? Mit unserem Schnellstarter-Paket sichern Sie Ihre Webseite ab.

Jetzt absichern

webinar teaser

Online Schulung mit Rechtsanwalt Siebert

Die 7 häufigsten Abmahnfallen auf Webseiten und wie Sie diese schnell, einfach und ohne teuren Anwalt vermeiden. So haben Abmahner bei Ihnen keine Chance!

Mehr Details
Support