Nachhaltigkeit und ESG-Themen verlieren an Bedeutung, während Unternehmen sich in einer neuen politischen und wirtschaftlichen Lage mit Fragen diesbezüglich auseinandersetzen müssen.
The Algorithm
Rezensionen: Kennen Sie…? | 12/2024
„The Algorithm“ von H. Schellmann, die kritisch die Nutzung von KI-Lösungen im Personalwesen untersucht
Hilke Schellmann, Journalistin und Assistant Professor an der New York University, untersucht in „The Algorithm“ wie KI-Lösungen alle Facetten des Personalwesens revolutionieren – vom Screening von Kandidaten bis Entscheidung zur Kündigung. Der Fokus liegt eindeutig auf den USA, sodass aufgrund der spezifischen Rechtslage (Stichworte u. a. Kontrolle von Mitarbeitern und Umgang mit Gesundheitsdaten) nicht alle Erkenntnisse und möglichen Gefahren unmittelbar auf den deutschen Kontext übertragbar sind.
Hanna Ritchies „Not the end of the world“
Die Stärke von Schellmanns Analyse liegt darin, die Anwendung weit verbreiteter KI-Tools auf Basis konkreter Fallstudien zu prüfen, selbst auszuprobieren und die Ergebnisse mit Branchenkennern zu diskutieren. Ein beliebtes Anwendungsfeld für KI-Lösungen ist z. B. das Screening von Bewerbungen insbesondere von Berufsanfängern. Aktuell werden fast 100% der Bewerbungen zumindest bei großen Firmen durch KI-Tools erstbewertet. Die Tools werden in der Regel auf Basis der Profile von Mitarbeitenden trainiert, die sehr gute Leistungen gezeigt haben. Eines der bekannten Probleme ist, dass hierdurch „Biases“ eingeführt werden, welche verhindern, dass neue Talentpools insbesondere in unterdurchschnittlich repräsentierten Gruppen ausgeschöpft werden. Ein weiteres und schwerwiegenderes Problem ist, dass der Entscheidungsalgorithmus auf statistischen Analysen beruht, ohne dass die Validität der Ergebnisse überprüft wird (Stichwort: Korrelation vs. Kausalität). Eine fundierte Analyse der ausgeschrieben Jobprofile und der erwarteten Kompetenzen, ein Abgleich mit den Mitarbeitenden und eine echte Analyse der Bewerber fehlt. Dies führt zu skurrilen Ergebnissen wie z. B. dass Bewerber mit einem bestimmten Hobby oder Vornamen bevorzugt werden, weil diese in den Trainingsdaten häufig vertreten waren.
Eine Kernfrage Frage ist, warum Firmen und Personalabteilungen solche Verfahren nutzen, auch wenn diese offensichtlich nicht performant sind. Schellmann bietet mindestens zwei Erklärungen an:
— Die Nutzung von Jobportalen in Verbindung mit der Nutzung von KI-Tools zur Erstellung von Bewerbungsschreiben hat zu einer Explosion der Bewerbungszahlen geführt. HR reagiert auf diese Entwicklung mit Einsatz von KI-Lösungen – also eine Art KI-Wettrüsten.
— Personalabteilungen stehen unter massiven Kostendruck, sodass die effiziente Abwicklung von Bewerbungsprozessen wichtiger ist als der langfristige Erfolg der neuen Mitarbeitenden, da dieser ohnehin schwierig zu messen und nachzuverfolgen ist.
Die Autorin positioniert sich als eindeutige AI-Kritikerin, die vor allem auf die mögliche Diskriminierung von Mitarbeitenden und spezifischer Gruppen fokussiert. Eine breitere Diskussion, welche auch die Frage adressiert, welche negativen Folgen sich für Firmen und deren Entwicklung ergeben, hätte das Buch bereichert. Auch wenn man vor diesem Hintergrund und aufgrund des US-amerikanischen Fokus einige Abstriche bezüglich der Allgemeingültigkeit der Ergebnisse machen muss, bleibt das erschreckende Ergebnis, dass das Management seine Verantwortung für das Design von Kernprozessen kaum wahrnimmt und schwierige Entscheidungen an die KI delegiert – mit negativen Folgen für Bewerber und Firmen.
Pad|da|xum [Substantiv, neutrum, Plural Paddaxa]:
Impuls zu aktuellen Wirtschafts- und Managementthemen, der tradierte Wahrnehmungen hinterfragt und neue Perspektiven eröffnet. Ziel ist es zum Hirnen und zum Gespräch anzuregen. Fundiert und mit einem ironischen Augenzwinkern.
Let’s talk!
Wählen Sie Ihren persönlichen Wunschtermin für einen 30-minütigen Videocall.
Follow me:
Copyright © 2025 Dr. Paddags Consulting GmbH
