21 (Art. 5 I KI-VO). Aus arbeitsrechtlicher Sicht dürfte das etwa für KI-Systeme relevant werden, deren Einsatz auf eine Verhaltensänderung der Beschäftigten gerichtet ist. Danach sind nämlich u. a. solche KI-Systeme verboten, die Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person (bzw. absichtlich manipulative oder täuschende Techniken) einsetzen. Das System muss dabei das Verhalten einer Person dadurch wesentlich beeinflussen, dass es deren Fähigkeit, eine fundierte Entscheidung zu treffen, spürbar beeinträchtigt. Das Verbot betrifft insbesondere KI-Systeme, die Beschäftigte zu einer erhöhten Arbeitsleistung anhalten sollen. Gleiches gilt für solche, in denen Arbeitgeber/-innen beabsichtigen, KI-Systeme zur Bewertung von Beschäftigten einzusetzen. Soweit es sich um Hochrisiko-KI-Systeme handelt, hat dies arbeitsrechtliche Auswirkungen auf den Beschäftigungsbereich, wenn die KI bestimmungsgemäß verwendet werden soll für die Einstellung oder Auswahl natürlicher Personen, vorwiegend um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber/-innen zu bewerten; f ür Entscheidungen, die die Bedingungen oder die Kündigung von Arbeitsverhältnissen oder Beförderungen beeinflussen; für die Zuweisung von Aufgaben auf der Grundlage von individuellem Verhalten oder persönlichen Eigenschaften oder Merkmalen oder für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen (Art. 6 II iVm Anhang III Nr. 4 KI-VO). Ein erhebliches Risiko besteht nicht, wenn KI-Systeme dazu bestimmt sind, bloß die Ergebnisse einer zuvor von einem Menschen erledigten Tätigkeit zu verbessern. Gleiches gilt, wenn KI-Systeme bloß eine vorbereitende Aufgabe für eine Bewertung durchführen. Dies gilt allerdings nicht bei Profiling, d.h. jede Art der automatisierten Verarbeitung personenbezogener Daten, um bestimmte persönliche Aspekte zu bewerten, wie etwa die Arbeitsleistung, die Zuverlässigkeit oder das Verhalten. Hier ist ein erhebliches Risiko anzunehmen. KI-Systeme, die weder ein unannehmbares Risiko beinhalten noch als Hochrisiko-KISysteme gelten, können als KI-Systeme mit einem geringen oder minimalen Risiko eingeordnet werden (z. B. Chatbots, Spamfilter, Deepfakes haben Transparenzpflichten zur Folge). IV. Betreiberpflichten der Arbeitgeber/-innen Die Pflichten von KI einsetzenden Arbeitgebern/-innen ergeben sich aus Art. 26 KI-VO. Danach sind Arbeitgeber/-innen u. a. verpflichtet, geeignete technische und organisatorische Maßnahmen zu treffen, um sicherzustellen, dass sie Hochrisiko-KI-Systeme nach Maßgabe, der diesen beigefügten Gebrauchsanweisungen verwenden. Setzen Arbeitgeber/-innen Hochrisiko-KI-Systeme ein, müssen sie eine hierzu ausgebildete natürliche Person mit der menschlichen Aufsicht betrauen und ihr die erforderliche Unterstützung zukommen lassen. Externe Dienstleister reichen aus. Ungeklärt ist derzeit noch, zu welchem Zeitpunkt Betreiber die menschliche Aufsicht vornehmen müssen. Weiterhin sind die KI-spezifischen Informationspflichten des/der Arbeitgebers/-in von Bedeutung. Arbeitgeber/-innen müssen Arbeitnehmervertreter/-innen (z. B. Betriebsräte/-innen) und betroffene Beschäftigte vor der Inbetriebnahme bzw. Verwendung von Hochrisiko-KI-Systemen am Arbeitsplatz darüber zu unterrichten, dass sie vom KI-Einsatz umfasst sind. Die Informationspflichten gegenüber betroffenen Beschäftigten bestehen darin, dass sie einem Hochrisiko-KISystem unterliegen, welches Entscheidungen in Bezug auf ihre Person trifft bzw. bei solchen Entscheidungen Unterstützung leistet. Den Arbeitnehmern stehen außerdem auch Informationsrechte zu. Jede Person, die von einer Entscheidung betroffen ist, hat das Recht, vom Betreiber klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsverfahren und zu den wichtigsten Elementen der getroffenen Entscheidung zu verlangen. Das Recht setzt voraus, dass der Betreiber die Entscheidung auf Grundlage der Daten aus einem Hochrisiko-KI-System getroffen hat. Dieses Recht ist der Datenschutzgrundverordnung (DSGVO) nachgebildet. V. Fazit Die KI-VO bürdet den Arbeitgebern/-innen zahlreiche Pflichten auf. Die Mitgliedstaaten sind allerdings nicht gehindert, vorteilhaftere Vorschriften zugunsten der Arbeitnehmer zu erlassen. Dies wird vor allem das Betriebsverfassungsgesetz (z. B. Mitbestimmungsrechte) und das Beschäftigtendatenschutzgesetz (z. B. Bewerbungsverfahren, Überwachung) betreffen. Letzteres befindet sich noch in der Entstehung und ist nur in Entwurfsform vorhanden. Auch die Datenschutzgrundverordnung (DSGVO) muss der/die Arbeitgeber/-in neben der KI-VO beachten. Dr. Paul Klickermann klickermann@it-anwalt-kanzlei.de Kläner Rechtsanwälte www.it-anwalt-kanzlei.de Die digitale Identität Ihres Produkts Jetzt mehr erfahren! www.unity-consulting.com/de/ consulting-services/smart-data-ai/ digitaler-produktpass CONSULTING & INNOVATION
RkJQdWJsaXNoZXIy MjUzMzQ=