Wenn die KI die KI austrickst. Warum Robo Recruiting ein Rattenrennen werden könnte…

Es wird ja immer sehr viel über die Verheißungen gesprochen, die der Einsatz künstlicher Intelligenz im Recruiting verspricht: Neben ökonomischen Argumenten (ermüdungsfrei, 24/7 verfügbar, billiger als Menschen usw.) wird hier immer wieder das Argument bemüht, dass sich durch den Einsatz von Algorithmen subjektive Beurteilungsfehler (Biases) reduzieren lassen.

Zuletzt ging gerade gestern wieder ein Artikel aus der FAZ rum, der insb. letztgenanntes Argument unterstrich.

Für meinen Geschmack ist dieser Beitrag etwas arg undifferenziert, denn wer sich auch nur ein bisschen mit KI auskennt, weiß dass Algorithmen nun wahrlich nicht dagegen immun sind, “biased” zu sein. Ich habe hier im Blog etliche Beispiele beschrieben, die dies plakativ beschreiben. Man denke nur an das Beispiel der Video-Software, die je nachdem, ob eine Person eine Brille aufhatte oder nicht oder vor einem Bücherregal saß, zu vollkommen anderen Einschätzungen hinsichtlich der Persönlichkeit dieses Menschen kam.

Immerhin endet der Beitrag aber zumindest mit der Erkenntnis, dass es besser nicht auf ein “KI-only”-Szenario hinauslaufen sollte, sondern (zunächst) einmal auf eine Art “Assistenzsystem”, das die finale Entscheidung durch einen Menschen unterstützt.

Nun, ob und inwieweit sich KI als Element des Recruitingbaukastens der Unternehmen durchsetzen wird, wird zu beobachten sein. Die zweifelsohne spannenden technologischen Entwicklungen und der massive Vertriebsdruck der solche Systeme anbietenden HR-Tech-Anbieter wird hier aber sicher schon für eine gewisse Verbreitung sorgen.

Und was wird bei all der Euphorie mal wieder vergessen? Die Bewerber!

Nein, ich meine hier nicht die Bewerberakzeptanz gegenüber dem Einsatz von KI in der Auswahl. Das ist auch ein wichtiges Thema, aber ich will auf etwas anderes hinaus:

Es ist doch vollkommen abwegig, anzunehmen dass nur die Unternehmensseite KI-basierte Instrumente zur Bewerberselektion einsetzen wird.

Wenn Unternehmen KI einsetzen, um Lebensläufe zu screenen oder (vermeintlich) Persönlichkeit aus Bewerbungsfotos, Sprachproben oder Videoinhalten herauszulesen oder Bots darauf ansetzen, Social Media Profile von Kandidaten zu analysieren, dann wird dies unweigerlich dazu führen, dass auch BewerberInnen KI einsetzen, um ihre Lebensläufe, Bewerbungsfotos und -videos sowie Social Media Profile so zu gestalten, dass sie der Recruiting-KI gefallen.

Ein Rattenrennen.

Dieser Gedanke ist nicht neu, ich habe ihn hier schon verschiedentlich formuliert – nebst Beispielen, wie man sich wohl vorzustellen hat. Aber so richtig angekommen scheint mir diese Erkenntnis noch nicht.

Nun flatterte mir ein neues Beispiel auf den virtuellen Schreibtisch (Dank an den Tippgeber Constantin Gillies!): Die Plattform deepwork.

Eines gleich vorweg: Das ganze ist bereits in der Überschrift als “a satire” gekennzeichnet. Ich habe das Tool selber nicht im Realeinsatz ausprobiert und kann von daher auch nicht mit Gewissheit sagen, ob es ernst gemeint ist und wirklich funktioniert oder ob es sich tatsächlich (nur) um eine Satire handelt.

Aber:

Auch viele KI-Recruiting-Tools, die durch die Presse geistern, sind oft im Grunde nicht mehr als Satire, werden nur nicht als solche kenntlich gemacht (oder glaubt jemand ernsthaft, dass man – eine KI – Durchsetzungsfähigkeit an einem markanten Kinn erkennen kann…?). Nicht umsonst nennt etwa der Princeton-Prof. für Computer Science Arvind Narayanan diese “Snake-Oil-AI”. Wer tiefer einsteigen will, dem sei das Buch “Fake AI” ans Herz gelegt.

Und:

Die Features, die deepwork anbietet, kann man zum Teil auf der Website ausprobieren und daran gut erkennen, wie diese arbeiten würden und wie es durchaus in der Lage sein könnten, eine Recruiting-KI zum Narren zu halten.

Was bietet deepwork?

Das Versprechen lautet (sinngemäß): Verwende KI, um deine Bewerbungsunterlagen so zu manipulieren pimpen, dass die Recruiting-KI der Unternehmen dich super findet.

Dafür gibt es verschiedene Tools.

Im Resume Atelier kann man sich für verschiedene Rollen und Senioritätslevel Lebensläufe generieren, die zwar nichts oder wenig mit dem eigenen Werdegang zu tun haben müssen, aber auf jeden Fall einem Screeningbot gefallen.

Im Profile Picture Studio lassen sich Bewerbungsfotos so manipulieren, dass man darauf wahlweise älter, jünger, männlicher, weiblicher, attraktiver, seriöser usw. wirkt – für das Auge des menschlichen Betrachters, vor allem aber für die KI, die ja vermeintlich aus äußeren Merkmalen auf innere Werte schließen kann.

Auch kann man Fotos verschiedener Personen zu einem Bild mischen (“blenden”).

Wer hier nun wieder an das Beispiel von oben denkt, wo eine Brille auf der Nase zu einem anderen Persönlichkeitsbefund führt, der liegt richtig.

Mit Hilfe des Thought Leadership Package lassen sich z.B. Social Media Äußerungen erstellen, die als gute Mischung aus professioneller Seniorität und Fachkenntnis sowie “cooler” Privatheit daherkommen und so das Bild, das in Social Media von einem entsteht, in eine gewünschte Richtung drehen.

Das Video-Conferencing Plug-in schließlich manipuliert Bewegtbild von einem selbst mit Hilfe sog. Deep-Fake-Technologien, so dass man in Videokonferenzen (z.B. Bewerbungs-Interviews) besser rüberkommt. Auch hier sei der Verweis auf die oben genannten Software zur “Persönlichkeitsanalyse von Videointerviews” gestattet. Wenn die KI eh schon nicht sonderlich helle ist und sich von einer Brille auf der Nase oder einem Bücherregal im Hintergrund in die Irre führen lässt, zu welchen Schlüssen sie dann wohl kommt, wenn das Bewegtbild selber durch eine KI manipuliert wurde?

Nun, ob sich Bewerbungsunterlagen und andere zur Auswahl herangezogene Materialien am Ende durch KI-Tools wirklich in die gewünschte Richtung manipulieren lassen sei mal dahin gestellt.

Aber warum sollte diese Tools es schlechter hinbekommen zu faken als es Tools auf der anderen Seite hinbekommen, die Wahrheit zu erkennen? Und zweitens: Wieviel Vertrauen kann man in die Fähigkeiten von KI zur Erkennung und Reduzierung von Bias haben, wenn diese gegen einen Gegner antritt, der mit den gleichen Methoden und Fähigkeiten antritt, um eben solchen Bias erst zu erzeugen?

Ein Rattenrennen… Und die haben die Eigenschaft, dass keiner gewinnt…

P.S.: Zur rechtlichen Bewertung von KI im Recruiting hatten wir kürzlich auch was – hier entlang

P.P.S. Und wie auf´s Stichwort hat Oliver Erb jüngst seinen Erfahrungsbericht zu LoopCV veröffentlicht, einem Tool, das automatisiert und autonom Bewerbungen an X Arbeitgeber verschickt – hier entlang

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert