Die rasante Entwicklung und Implementierung von Künstlicher Intelligenz (KI) hat tiefgreifende Auswirkungen auf die Arbeitswelt. KI-Systeme revolutionieren nicht nur die Art und Weise, wie Unternehmen arbeiten und Entscheidungen treffen, sondern sie verändern auch die Natur der Arbeitsverhältnisse selbst. In einer Welt, in der KI immer mehr an Bedeutung gewinnt, lohnt sich ein Blick auf die kommende KI-Verordnung (KI-VO). Am 9.12.2023 haben das EU-Parlament und der Ratsvorsitz nach dreitägigen Trilog-Verhandlungen eine Einigung über die Künstliche Intelligenz, die KI-VO, erzielt. Ziel der KI-VO ist es zu gewährleisten, dass auf dem EU-Markt in Verkehr gebrachte und verwendete KI-Systeme, sicher sind und die Grundrechte und Werte der EU wahren. Die KI-VO steht demnach kurz vor dem Start. Der Beitrag beleuchtet die wesentlichen Bestimmungen der KI-VO mit besonderem Fokus auf dem Arbeitsrecht.

  1. Definition KI-Systeme

Was KI-Systeme sind, gibt die KI-VO vor. Der Begriff „KI-Systeme“ ist von zentraler Bedeutung, da man nur dann unter diese Verordnung fällt. Gemäß Art. 3 Nr. 1 KI-VO besteht ein KI-System aus vier Komponenten. Danach geht es

  • um ein maschinengestütztes System,
  • das für einen in wechselndem Maße autonomen Betrieb ausgelegt ist und
  • das nach seiner Einführung anpassungsfähig sein muss,
  • und das System aus erhaltenen Eingaben für explizite oder implizite Ziele Ergebnisse hervorbringt, die die physische und virtuelle Umgebung beeinflussen.

Der Begriff des KI-Systems soll sich demnach nicht auf solche Systeme erstrecken, die nach ausschließlich von natürlichen Personen aufgestellten Regeln operieren.

  1. Anwendungsbereich

Adressat der KI-VO ist in erster Linie der/die Anbieter/-in eines KI-Systems. Anbieter/-in ist jede natürliche oder juristische Person (z. B. Behörde), die ein KI-System entwickelt oder entwickeln lässt, um es unter ihrem eigenen Namen oder Marke in Verkehr zu bringen oder in Betrieb zu nehmen (Art. 3 Nr. 3 KI-VO). Die Erzielung von Entgelt ist unerheblich. Der persönliche Anwendungsbereich erstreckt sich darüber hinaus auf den Betreiber eines KI-Systems. Gemäß Art. 3 Nr. 4 KI-VO kommt als Betreiber in Betracht, wer ein KI-System in eigener Verantwortung verwendet, es sei denn, dies erfolgt allein zu persönlichen, nicht beruflichen Tätigkeiten. Arbeitgeber/-innen, die KI-Systeme etwa im Personalbereich einsetzen, sind danach grundsätzlich als Betreiber einzuordnen. Ungeklärt bleibt, wie Beschäftigte von Betreibern einzuordnen sind, wenn diese KI-Systeme im Betrieb nutzen. Denn sie würden KI-Systeme zu beruflichen Zwecken im Sinne des Art. 3 Nr. 4 KI-VO verwenden und in keinen Ausnahmezustand der KI-VO fallen. Allerdings ist hier zu berücksichtigen, dass die Beschäftigten keine KI-Systeme „in eigener Verantwortung“ nutzen. Der räumliche Anwendungsbereich bleibt nach der KI-VO weit gefasst. Die KI-VO betrifft Anbieter/-innen unabhängig von dem Ort ihrer Niederlassung. Voraussetzung ist allein, dass sie KI-Systeme in der EU in den Verkehr bringen oder in Betrieb nehmen (sog. „Marktortprinzip“) (Art. 2 I Buchst. a KI-VO).

III. Risiken der KI-Systeme

Die KI-VO knüpft bei den KI-Systemen an unterschiedliche Risiken an. Um den Risiken gebührend zu entgegnen, hat sich der Verordnungsgeber der KI-VO zu einem risikobasierten Ansatz entschieden. Hiernach wird sich im Wesentlichen auf drei Risikokategorien fokussiert:

  • Systeme mit einem unannehmbaren Risiko,
  • Systeme mit einem hohen Risiko und
  • Systeme mit einem geringen oder minimalen Risiko.

Kennzeichnendes Merkmal des risikobasierten Ansatzes ist es, bestimmte KI-Praktiken von vornherein auszuschließen (Art. 5 I KI-VO). Aus arbeitsrechtlicher Sicht dürfte das etwa für KI-Systeme relevant werden, deren Einsatz auf eine Verhaltensänderung der Beschäftigten gerichtet ist. Danach sind nämlich u. a. solche KI-Systeme verboten, die Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person (bzw. absichtlich manipulative oder täuschende Techniken) einsetzen. Das System muss dabei das Verhalten einer Person dadurch wesentlich beeinflussen, dass es deren Fähigkeit, eine fundierte Entscheidung zu treffen, spürbar beeinträchtigt.

Das Verbot betrifft insbesondere KI-Systeme, die Beschäftigte zu einer erhöhten Arbeitsleistung anhalten sollen. Gleiches gilt, in denen Arbeitgeber/-innen beabsichtigen, KI-Systeme zur Bewertung von Beschäftigten einzusetzen.

Soweit es sich um Hochrisiko-KI-Systeme handelt, hat dies arbeitsrechtliche Auswirkungen auf den Beschäftigungsbereich, wenn die KI bestimmungsgemäß verwendet werden soll

  • für die Einstellung oder Auswahl natürlicher Personen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber/-innen zu bewerten;
  • für Entscheidungen, die die Bedingungen oder die Kündigung von Arbeitsverhältnissen oder Beförderungen beeinflussen;
  • für die Zuweisung von Aufgaben auf der Grundlage von individuellem Verhalten oder persönlichen Eigenschaften oder Merkmalen oder
  • für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen (Art. 6 II iVm Anhang III Nr. 4 KI-VO).

Ein erhebliches Risiko besteht nicht, wenn KI-Systeme dazu bestimmt sind, bloß die Ergebnisse einer zuvor von einem Menschen erledigten Tätigkeit zu verbessern. Gleiches gilt, wenn KI-Systeme bloß eine vorbereitende Aufgabe für eine Bewertung durchführen. Dies gilt allerdings nicht bei Profiling, d.h. jede Art der automatisierten Verarbeitung personenbezogener Daten, um bestimmte persönliche Aspekte zu bewerten, wie etwa die Arbeitsleistung, die Zuverlässigkeit oder das Verhalten. Hier ist ein erhebliches Risiko anzunehmen.

KI-Systeme, die weder ein unannehmbares Risiko beinhalten noch als Hochrisiko-KI-Systeme gelten, können als KI-Systeme mit einem geringen oder minimalen Risiko eingeordnet werden (z. B. Chatbots, Spamfilter, Deepfakes haben Transparenzpflichten zur Folge).

  1. Betreiberpflichten der Arbeitgeber/-innen

Die Pflichten von KI einsetzenden Arbeitgebern/-innen ergeben sich aus Art. 26 KI-VO. Danach sind Arbeitgeber/-innen u. a. verpflichtet, geeignete technische und organisatorische Maßnahmen zu treffen, um sicherzustellen, dass sie Hochrisiko-KI-Systeme nach Maßgabe, der diesen beigefügten Gebrauchsanweisungen verwenden. Setzen Arbeitgeber/-innen Hochrisiko-KI-Systeme ein, müssen sie eine hierzu ausgebildete natürliche Person mit der menschlichen Aufsicht betrauen und ihr die erforderliche Unterstützung zukommen lassen. Externe Dienstleister reichen aus.

Ungeklärt ist derzeit noch, zu welchem Zeitpunkt Betreiber die menschliche Aufsicht vornehmen müssen. Weiterhin sind die KI-spezifischen Informationspflichten des/der Arbeitgebers/-in von Bedeutung. Arbeitgeber/-innen müssen Arbeitnehmervertreter/-innen (z. B. Betriebsräte/-innen) und betroffene Beschäftigte vor der Inbetriebnahme bzw. Verwendung von Hochrisiko-KI-Systemen am Arbeitsplatz darüber zu unterrichten, dass sie vom KI-Einsatz umfasst sind. Die Informationspflichten gegenüber betroffenen Beschäftigten bestehen darin, dass sie einem Hochrisiko-KI-System unterliegen, welches Entscheidungen in Bezug auf ihre Person trifft bzw. bei solchen Entscheidungen Unterstützung leistet.

Den Arbeitnehmern stehen außerdem auch Informationsrechte zu. Jede Person, die von einer Entscheidung betroffen ist, hat das Recht, vom Betreiber klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsverfahren und zu den wichtigsten Elementen der getroffenen Entscheidung zu verlangen. Das Recht setzt voraus, dass der Betreiber die Entscheidung auf Grundlage der Daten aus einem Hochrisiko-KI-System getroffen hat. Dieses Recht ist der Datenschutzgrundverordnung (DSGVO) nachgebildet.

  1. Fazit

Die KI-VO bürdet den Arbeitgebern/-innen zahlreiche Pflichten auf. Die Mitgliedstaaten sind allerdings nicht gehindert, vorteilhaftere Vorschriften zu Gunsten der Arbeitnehmer zu erlassen. Dies wird vor allem das Betriebsverfassungsgesetz (z. B. Mitbestimmungsrechte) und das Beschäftigtendatenschutzgesetz (z. B. Bewerbungsverfahren, Überwachung) betreffen. Letzteres Gesetz befindet sich noch in der Entstehung und ist nur in Entwurfsform vorhanden. Auch die Datenschutzgrundverordnung (DSGVO) muss der/die Arbeitgeber/-in neben der KI-VO beachten.