Konkret sind die folgenden Praktiken verboten (Quelle: Computerwoche):
KI-Anwendungen, die …
- Entscheidungen von Personen manipulativ beeinflussen.
- Schwachstellen von Personen (z.B. Alter, Behinderung, wirtschaftliche Notsituation) ausnutzen, um sie zu beeinflussen.
- Menschen aufgrund ihres Sozialverhaltens oder persönlicher Merkmale beurteilen und benachteiligen.
- aufgrund von Persönlichkeitsmerkmalen das Risiko für Straftaten einer Person vorhersagen.
- Datenbanken für die ungezielte Gesichtserkennung erstellen.
- Emotionen von Menschen am Arbeitsplatz bzw. in Bildungseinrichtungen auslesen.
- Personen auf der Basis ihrer biometrischen Daten kategorisieren (z.B. im Bezug auf religiöse Überzeugungen oder sexuelle Vorlieben).
- biometrische Echtzeit-Identifizierung in öffentlichen Räumen durchführen.
Für das Recruiting bedeutet dies, dass eine Bewerberauswahl, die ausschließlich auf den Ergebnissen Künstlicher Intelligenz beruht, nicht mehr erlaubt ist.
KI und Datenschutz: Anforderungen an das KI-Recruiting
Aus der gestern in Kraft getretenen Einstufung von „KI-Systemen im Bereich Personalmanagement und Recruiting“ als Hochrisiko-Systeme im Sinne des EU AI Acts ergeben sich weitreichende praktische Konsequenzen für Unternehmen:
- Dokumentationspflicht: Es muss genau dokumentiert werden, wie das KI-System funktioniert, welche Daten es nutzt und wie Entscheidungen zustande kommen.
- Risikomanagement: Ein kontinuierliches Monitoring muss sicherstellen, dass keine diskriminierenden Entscheidungen getroffen werden.
- Menschliche Aufsicht: KI-Systeme dürfen nicht vollautomatisch Kandidaten ablehnen. Es muss immer eine qualifizierte Person die Entscheidungen überprüfen.
- Transparenz: Bewerber müssen darüber informiert werden, dass KI im Recruiting-Prozess zum Einsatz kommt.
- Qualitätssicherung der Daten: Die Trainingsdaten müssen auf Verzerrungen überprüft und entsprechend aufbereitet werden.
Für Unternehmen bedeutet dies konkret, dass sie ihre bestehenden KI-Recruiting-Tools entsprechend anpassen müssen. Sie müssen nachweisen können, dass ihre Systeme fair, transparent und nachvollziehbar arbeiten.
Der EU AI Act
Das ist die erste umfassende KI-Regulierung weltweit, die das Europäische Parlament im März 2024 verabschiedet hat. Das Gesetz führt ein risikobasiertes System ein, das KI-Systeme in verschiedene Kategorien einteilt:
- Systeme mit unannehmbarem Risiko (verboten), wie etwa Social Scoring
- Hochrisiko-Systeme, die strenge Anforderungen erfüllen müssen
- Systeme mit geringem Risiko, für die hauptsächlich Transparenzpflichten gelten
- Systeme mit minimalem Risiko, die keinen besonderen Auflagen unterliegen
Besonders wichtig sind die Regelungen für Hochrisiko-KI-Systeme. Diese müssen:
- Umfassend dokumentiert werden
- Hohe Standards bei Datensätzen erfüllen
- Menschliche Aufsicht ermöglichen
- Robust und genau sein
- Transparent funktionieren
Wenn der EU AI Act davon spricht, dass Hochsicherheits-KI-Systeme „hohe Standards bei Datensätzen“ erfüllen müssen, dann ist damit konkret gemeint, dass
- die Verarbeitung DSGVO-konform erfolgen muss und
- es eine Rechtsgrundlage für die Datenverarbeitung geben muss
Neue ZERTURIO-Schulungen „Datenschutz und KI“ und „Datenschutz und Personalwesen“
Genau aus diesem Grund haben wir das ZERTURIO-Schulungsprogramm um eine Schulung mit dem Titel „Datenschutz und KI“ erweitert, die sich mit dem DSGVO-konformen Einsatz künstlicher Intelligenz im Unternehmen – und dabei nicht nur im Personalwesen – beschäftigt.
Ebenfalls neu ist die ZERTURIO-Schulung „Datenschutz im Personalwesen„. In dieser Schulung geht es darum, wie DSGVO-konform mit Mitarbeiterdaten – in der Regel handelt es sich dabei um personenbezogene Daten im Sinne der DSGVO – umgegangen werden muss.
Weitere Informationen zum ZERTURIO-Schulungsprogramm finden Sie unter www.zerturio.de/plattform
