22:17 16 Oktober 2018
SNA Radio
    Amazon-Logo

    Künstliche Intelligenz diskriminiert Frauen - Amazon verschrottet Bewerbungstool

    © REUTERS / Lucy Nicholson/File Photo
    Gesellschaft
    Zum Kurzlink
    Paul Linke
    6375

    Entwickler von Amazon haben ein Problem entdeckt: Ihr auf künstlicher Intelligenz basierendes Bewerbungsprogramm mochte keine Frauen. Das KI-System hatte sich die Haltung selbst beigebracht.

    IT-Spezialisten von Amazon haben ein auf künstlicher Intelligenz basierendes Bewerbungstool verworfen. Eigentlich wollte das Unternehmen es zur Bewertung von Bewerbern nutzen. Doch der Algorithmus hatte sexistische Tendenzen. Es bewertete Männer grundsätzlich mit einer höheren Punktzahl als Frauen. Das berichtet die Nachrichtenagentur „Reuters“. Das Machine-Learning-System habe sich dieses Fehlverhalten selbst beigebracht und das Attribut, männlich zu sein, sehr hoch gewichtet.

    >>Andere Sputnik-Artikel: „Den Kopf frei haben“: Debatte um Kopftuch-Mädchen in Berlin

    Auf einer Skala von ein bis fünf Sternen sollte das System Bewerber einsortieren. Bereits 2014 hatte sich Reuters mit Entwicklern des Tools in Verbindung gesetzt, die anonym bleiben wollten. „Sie wollten, dass das Programm sprichwörtlich eine Maschine ist, bei der ich dir 100 Bewerbungen gebe, sie die fünf Besten ausspuckt und wir diese dann einstellen“, erklärte ein involvierter Entwickler.

    Doch eines haben die Entwickler nicht bedacht: Als Vorlage nutzten sie hauptsächlich zehn Jahre alte Bewerbungen, die vorwiegend von Männern stammten, um das Programm zu füttern. Das System zog daraus entsprechende Schlüsse. Reuters zufolge wurde gar allein schon das Wort Frauen von der Software als schlecht bewertet und floss negativ in die Endwertung ein, wie die Entwickler bereits 2015 feststellten. Daraufhin änderten die Entwickler das Verhalten so, dass zumindest das Wort Frau als neutral angesehen wurde. Doch auch dies war wohl letztendlich keine ausreichende Lösung.

    Wie „Reuters“ meldet, hat Amazon das Team schließlich Anfang letzten Jahres aufgelöst, weil Führungskräfte ihre Hoffnung in das Projekt verloren hätten. Amazon lehnte es ab, sich zu der Technologie zu äußern, bestritt aber, dass das Tool vom Personalmanagement des Unternehmens verwendet wurde, um Kandidaten zu bewerten.

    >>Andere Sputnik-Artikel: Diskriminiert Google weiße Männer? Ex-Mitarbeiter verklagen den Konzern

    Allerdings sei Amazon mit dem Problem „ungerechter KI-Systeme“ nicht allein, bemerkt das Online-Portal „Golem.de“. So habe eine Forscherin am Massachussetts Institute of Technology (MIT) herausgefunden, dass auch Bilderkennungssysteme von IBM und Microsoft unfair bewerten.

    GemeinschaftsstandardsDiskussion
    via Facebook kommentierenvia Sputnik kommentieren
    Tags:
    IT, Diskriminierung, Frauen, Werbung, Amazon, USA