Tempo-Team Blog

Forschungsprojekt ExamAI: Anwendungsszenarien für künstliche Intelligenz im HR-Management

Digitalisierung und künstliche Intelligenz in der Personalarbeit

Die Digitalisierung – und einen Schritt weitergehend – der Einsatz von Künstlicher Intelligenz (KI) hält zunehmend auch in der Personalarbeit Einzug, z.B. in Form von automatisierten Vorschlagsystemen bei der Bewerberselektion. Hiermit verbunden sind jedoch ethische und juristische Fragestellungen. Das Projekt ExamAI setzt sich mit diesem Problemfeld auseinander, um wissenschaftlich fundierte Handlungsleitlinien für Politik und Praxis zu entwickeln.

Denn der Einsatz von KI und algorithmischen Entscheidungsverfahren in der Personalarbeit bietet zweifelsohne Chancen und wird künftig zunehmen. Er kann die Rekrutierung neuer Mitarbeiter vereinfachen und beschleunigen. Gleichzeitig birgt er jedoch Risiken, z.B. in Bezug auf die Rechte von Bewerbern und Arbeitnehmern, aber auch für die Rechtssicherheit unternehmerischer Entscheidungen und mögliche Schadensersatzansprüche.

"ExamAI" stellt daher klar: Die Einführung von KI-Anwendungen im HR- und Talentmanagement erfordert eine genaue Prüfung hinsichtlich ihrer Nachvollziehbarkeit, Transparenz, Fairness, Gleichbehandlung, Haftbarkeit, Zuverlässigkeit und Datenschutzkonformität.

Nur mit einer genauen Überprüfung, ob KI-Systeme rechtskonform und zuverlässig im Sinne des geplanten Einsatzes funktionieren, sei eine breite Anwendung sowie gesellschaftliche Akzeptanz möglich.

Hier setzt das Forschungsprojekt an und untersucht in einem mehrstufigen Testverfahren verschiedene Anwendungsfälle aus den Bereichen industrielle Fertigung sowie Personalmanagement, um schließlich konkrete Handlungsempfehlungen geben zu können. Im Fokus stehen die beiden Fragestellungen:

  • Wie können effektive Kontroll- und Testverfahren für KI-Systeme aussehen?
  • Wie kann die Bundesregierung solche Verfahren sinnvoll implementieren?

Einen detaillierteren Überblick über Zielsetzung, Methodik und Ablauf des Forschungsprojektes finden Sie unter: https://testing-ai.gi.de/ueber

Zum aktuellen Forschungsstand haben die Wissenschaftler im November 2020 eine Publikation veröffentlicht und allen Interessierten kostenfrei zum Download bereitgestellt: Anwendungsszenarien KI-Systeme im Personal- und Talentmanagement

Sie widment sich den besonders einschlägigen Anwendungsszenarien für KI-Systeme im Personal- und Talentmanagement, z.B. einer KI-basierten Software bei der Vorhersage der Jobkündigungsbereitschaft, einer Persönlichkeitsbewertung anhand von Lebensläufen oder dem Einsatz eines Chatbots in der Personalabteilung.

Allgemeine Informationen zum Forschungsprojekt

Das Projekt „KI Testing & Auditing“ wird im Rahmen des Observatoriums Künstliche Intelligenz in Arbeit und Gesellschaft (KIO) der Denkfabrik Digitale Arbeitsgesellschaft gefördert. Die Denkfabrik, eine agile Organisationseinheit des Bundesministeriums für Arbeit und Soziales (BMAS), bündelt Projekte und Prozesse rund um die digitale Transformation innerhalb des BMAS und entwickelt daraus ein größeres Bild der Arbeitsgesellschaft der Zukunft. Mit dem KIO, einem Projekt im Rahmen der nationalen KI-Strategie, fokussiert das BMAS die Frage nach den Auswirkungen von KI auf Arbeit und Gesellschaft.

Die Gesellschaft für Informatik e.V. (GI) ist mit rund 20.000 persönlichen und 250 korporativen Mitgliedern die größte und wichtigste Fachgesellschaft für Informatik im deutschsprachigen Raum und vertritt seit 1969 die Interessen der Informatikerinnen und Informatiker in Wissenschaft, Wirtschaft, öffentlicher Verwaltung, Gesellschaft und Politik. Mit 14 Fachbereichen, über 30 aktiven Regionalgruppen und unzähligen Fachgruppen ist die GI Plattform und Sprachrohr für alle Disziplinen in der Informatik. Die Mitglieder binden sich an die Ethischen Leitlinien für Informatikerinnen und Informatiker der GI.

Weitere am Projekt beteiligte Partner sind das Fraunhofer IESE, die Stiftung Neue Verantwortung, das Algorithm Accountability Lab an der TU Kaiserslautern und das Institut für Rechtsinformatik an der Universität des Saarlandes.

Zurück

Um unsere Webseite optimal zu gestalten und stetig verbessern zu können, setzen wir Cookies ein. Sie können selbst entscheiden welche Cookies gesetzt werden. Hier finden Sie unsere Datenschutzerklärung

Speichern