Tags
algorithmen, ams, arbeitsmarktservice, berlin, digital rights, diskriminierung, gesellschaft, internet, journalismus, konferenz, medienecho, re:publica, review, rp19, talk, technologie, tiefenrecherche, vortrag
YouTube: Jobchancen adé: Wenn der Computer “nein” sagt
Re:publica-Seite zum Talk (mit Audio-Link zum Nachhören)
Kurz umrissen, worum es geht:
Das österreichische AMS will mit modernen Mitteln die Effizienz steigern, doch verbaut mit seiner Umsetzung Tausenden Menschen ihre Zukunftschancen. Software teilt künftig Arbeitssuchende in drei Gruppen ein: Hohe Chancen, mittlere Chancen, niedrige Chancen. Wer in letzterer Kategorie landet, kriegt keine teuren Zusatzmaßnahmen, weil seine Arbeitsmarktchancen nur gering sind.
Wer eine Frau ist, über 50, Ausländer aus der Nicht-EU oder gesundheitlich beeinträchtigt bekommt vom System von vornherein Abzüge. Negativ-Punkte gibt es außerdem für Betreuungspflichten – allerdings nur, wenn man eine Frau ist. Diskriminierung, die am Arbeitsmarkt existiert, wird somit direkt in das Computerprogramm reingeschrieben und sorgt damit laut Informatikern in einer “Feedback Loop” für noch mehr Diskriminierung dieser Personengruppen.
Das AMS hat zwar eine Art Ergebnisbericht veröffentlicht, aber echte Transparenz herrscht nicht. Statt einer breiten Diskussion, folgen Tests mit Echtzeitdaten aus dem “Data Warehouse”. Experten aus den Bereichen Informatik, Sozial- und Wirtschaftswissenschaften kritisieren die Entwicklung massiv.
Es ist nicht das erste Beispiel dafür, wie Algorithmen diskriminieren und Menschenleben gefährden. Doch es ist eines der ersten Beispiele aus Europa, das plakativ zeigt, was dabei schiefgehen kann. Im re:publica Talk habe ich meine journalistische Tiefenrecherche mit Gesprächen mit Forschern aus verschiedenen Fachbereichen dazu präsentiert.
Großes Interesse
Es hat mich sehr gefreut, dass das Thema auf großes Interesse gestoßen ist und auch über Österreichs Ländergrenzen für Aufmerksamkeit gesorgt hat. Leider ist die Diskussion in Österreich dazu wieder etwas eingeschlafen, aber ich verspreche, dranzubleiben und gegen Ende des Jahres, wenn die Evaluierung des ersten Jahres seitens des AMS erfolgen wird, wieder entsprechend nachzuhaken.
Interviews mit mir zu dem Thema:
Xing-Interview: Algorithmus statt Personaler: „Software bei Bewerbungen kann zu Diskriminierungen führen“
Interview mit flux.fm zum Thema
Weiteres Medienecho:
Baseler Zeitung (CH) Zeitgeist RP Online (DE) Superscoring (DE)
Auch bei der re:publica gab es ein Super-Video-Team, das die Lesung (und fast alle anderen Vorträge und Workshops) aufzeichnete. Ihr könnt jetzt also wählen, ob ihr euch den Mitschnitt aus Graz oder aus Berlin anhören wollt. Denn auch diesen verlinke ich hiermit hochoffiziell:
