In seinem Feature „Der gläserne Bewerber – Wie Emotionserkennung die Arbeitswelt verändert“ befasst sich Autor Janosch Delcker mit dem zunehmenden Einsatz von KI-Software in Bewerbungsverfahren und Assessment-Centern großer Unternehmen.

Delcker hat sich schon viel mit dem Thema KI befasst. Doch für diese Recherche habe ein befreundeter Personaler den Anstoß gegeben, als dieser davon sprach, dass eine „zweite, quasi unsichtbare, digitale Revolution“ ablaufe, die „zu einer totalen Überwachung am Arbeitsplatz führen könnte“. Der Einsatz von emotionserkennender Technologie habe stillschweigend auf dem Arbeitsmarkt Einzug gehalten, und der könne zu einer Durchleuchtung von Arbeitnehmern auf einer ganz neuen Ebene führen.

Eine Software, die zunehmend in Bewerbungsverfahren eingesetzt wird, ist „Hirevue“. Die Software führt rein KI-basiertes Bewerbungsverfahren und wertet aufgezeichnete Bewerbungsgespräche digital aus. Trotz vieler Erfahrungsberichte im Internet war es für den Autor schwer, jemanden zu finden, der darüber sprechen wollte, und auch als er eine Bewerberin findet, möchte die ihre wahre Identität nicht preisgeben. Zu groß ist die Angst, sich dadurch Nachteile auf dem Arbeitsmarkt zu verschaffen. In den Erfahrungsberichten im Internet liest man, diese Bewerbungsverfahren seien „grausam“ und „ekelhaft“.

„Man fühlt sich wie ein dressierter Affe, der Tricks machen soll.“

Emotionserkennende Software soll darin geschult werden, „Computern emotionale Intelligenz“ beizubringen, soll anhand von Stimme und Gesichtserkennung Rückschlüsse auf den Gemütszustand von Bewerber:innen ziehen können.

Auch in anderen Bereichen wird diese Technologie eingesetzt. In Berlin testete die Regierung am Bahnhof Südkreuz ein Pilotprogramm zur Gesichts- und Verhaltenserkennung. Aggressives Verhalten soll aus Gesichtern frühzeitig ablesbar sein und z. B. zur Eindämmung von Gewalttaten dienen. In Autos sollen Fahrer frühzeitig gewarnt werden, wenn eine solche Software feststellt, dass die Konzentration des Fahrers nachlässt.

Aber dass die Lernmethoden der Software und damit auch die Auswertung der Daten problematisch und vorurteilsbelastet ist, ist längst durch Studien belegt. Denn die Systeme füttern sich zunehmend selbst mit Informationen, um sich „weiterzubilden“. Wenn sie Zusammenhänge finden, ziehen sie Schlüsse daraus – egal, ob diese richtig oder falsch sind. „Garbage in – garbage out“ nennen Experten diese problematische Methode daher auch.

„Wer Computer mit Müll füttert, darf sich nicht wundern, wenn sie auch Müll ausspucken.“

Wenn also beispielsweise auf einem bestimmten Gebiet mehr Männer in Führungspositionen zu finden sind, zieht die Software daraus fälschlicherweise den Schluss, dass Männer für den Job besser geeignet sind. Die Studien ergaben, dass die Auswahlverfahren vor allem bei weißen Cis-Männern am meisten Treffsicherheit bewiesen. Diskrepanzen und Defizite bei der Auswertung sind vor allem für Geschlecht, Herkunft, sexuelle Orientierung zu beanstanden.

Neben dem CEO eines solchen Software-Unternehmens, der fest davon überzeugt ist, nur im Guten zu handeln und Auswertungsprozesse vorurteilsfrei zu erleichtern, kommt auch die Informatik-Professorin Katharina Zweig aus Kaiserslautern im Feature zu Wort, die sich in ihrem Buch „Ein Algorithmus hat kein Taktgefühl“ intensiv mit dem Thema auseinandergesetzt hat.

Sie sieht ein Problem auch im „Techno-Chauvinismus“ – dem unbegrenzten Glauben, dass die Technik besser sei als der Mensch. Aus diesem (Irr-)Glauben heraus wären Unternehmen oft bereit, sehr viel Geld für solche Algorithmus-basierte Software auszugeben. Ihr Rat:

„Lassen Sie die Finger davon. Verschwenden Sie kein Geld, denn früher oder später fällt einem das auf die Füße.“

Der CEO des Software-Unternehmens Precire, das vor allem Technik zur Sprachanalyse entwickelt, ist inzwischen Mitglied im Ethik-Beirat von HR-Tech, der zehn Richtlinien zur Verwendung solcher KI-basierter Technologie im Personalwesen festgelegt hat. Das ist ein Anfang.

Trotzdem muss in diesem Bereich auch von Seiten der Politik genauer hingeschaut werden, und es sollte mehr – und gerade angesichts der sich rasant entwickelnden Technik vor allem auch schneller – gehandelt und reguliert werden, denn der ungebremste Einsatz solcher Überwachungs- und Auswertungssysteme in der Arbeitswelt kann schnell ausgrenzend und diskriminierend wirken – und das eben weitgehend unbemerkt.

Sendung vom Mi, 7.4.2021 22:05 Uhr, SWR2 Feature