Letztes Jahr im August hatte ich hier von einer kleinen Anfrage der Bundestagsfraktion der LINKEN an die Bundesregierung berichtet, in der einige wichtige juristische und ethische Fragen hinsichtlich des Einsatzes von Künstlicher Intelligenz zur Personalrekrutierung (“RoboRecruiting”) aufgeworfen wurden.

Darin ging es unter anderem um folgende Fragen:

• Wird eine detailliertere gesetzliche Regelung von “automatisierter Erstellung von Persönlichkeitsprofilen” angestrebt?
• Hält die Bundesregierung die automatisierte Erstellung von Persönlichkeitsprofilen für (datenschutzrechtlich) zulässig?
• Entsprechen die auf diese Weise gewonnenen Erkenntnisse des “grundlegenden Standards” der Eignungsdiagnostik?
• Kann eine etwaige vom Nutzer eingeholte Einwilligung bei solchen Systemen “freiwillig” im Sinne des § 26 BDSG sein?
• Wie sieht es mit der Mitbestimmung durch die Arbeitnehmervertretung beim Einsatz derartiger Systeme aus?

Die Bundesregierung hat zu dieser Anfrage im Nachgang Stellung bezogen bzw. Antworten geliefert, veröffentlicht als Drucksache im September 2019.

Die Antworten sind an einigen Stellen relativ dünn ausgefallen, an anderen allerdings durchaus aufschlussreich. Ich habe euch die mE. wichtigsten Passagen hier einmal zusammengefasst:

Es ist also nicht beabsichtigt, automatisiertes Profiling detaillierter gesetzlich zu regeln. Ganz so passiv wie dies klingt, ist das dann aber wohl doch nicht gemeint. Vielmehr scheint man die bestehenden gesetzlichen Regelungen schon für ganz gut geeignet zu halten mit ggf. noch weiterem Präzisierungsbedarf beim Beschäftigtendatenschutz:

Besonders spannend sind aus meiner Sicht die Passagen, die sich dem Zusammenhang zwischen KI / BigData und der Eignungsdiagnostik widmen:

Insbesondere betont die Bundesregierung an zwei Stellen, dass KI-basierte Beurteilungssysteme NUR DANN zulässig sein können, wenn sie den grundlegenden eignungsdiagnostischen Gütekriterien genügen. Das wiederum spricht die Bundesregierung den vorhandenen Lösungen ab und verneint daher einen Einsatz z.B. in Bundesbehörden. Die Rede ist hier von “fehlender Nachvollziehbarkeit, Objektivität, Reliabiltät und Validität“.

Diese Argumentation gilt auch für die Bundesagentur für Arbeit:

Insofern wird hier also noch einmal sehr deutlich die Argumentation unterstrichen, dass der Einsatz von KI- und/oder Big-Data-basierten Auswahlinstrumenten nur dann rechtlich zulässig ist (“erforderlich”), wenn diese auch nachweislich das tun und leisten können, was sie vorgeben leisten zu können – im Sinne der eignungsdiagnostischen Gütekriterien.

Wer diese datenschutzrechtliche Begründung zur Erforderlichkeit (und auch zur Frage, ob nicht eine Einwilligung des Betroffenen “alles heilt”) nachlesen möchte, der sei auf den Beitrag “Nein, man braucht NICHT per se eine Einwilligung zur Datenverarbeitung vom Bewerber. Auch nach DSGVO nicht…” verwiesen.

Schließlich betont die Bundesregierung auch noch sehr deutlich die Bedeutung der Mitbestimmung beim Einsatz KI-basierter Entscheidungssysteme. Ich halte das für sehr sinnvoll, weil es die Entscheidung sehr dicht an das jeweilige Unternehmen und damit dessen individueller Probleme und Kultur heranrückt.

Man wird es weiter beobachten müssen. So ist ja seit letztem September auch schon wieder so einiges passiert…