Kolumne: Robotik, Recht Risiko
Heute: Roboter als Chef
Die Automatisierung von Arbeit (Roboter als Kollege) ist lediglich der Anfang. Die nächste Stufe heißt Automatisierung von Arbeitsorganisation: Maschinen spielen Chef, treffen also konkrete Entscheidungen für den Arbeitgeber.
Dr. iur. David Bomhard ist Physiker und Rechtsanwalt bei der Kanzlei Noerr. Er ist spezialisiert auf die rechtliche Beratung bei IT-Projekten (insb. Cloud Computing, AI-Einsatz und Datennutzung). (Bild: Noerr LLP)
Ja, es gibt sie noch, wenn auch in der Smart Factory immer seltener: Mitarbeiter. Um den Einsatz ihres kostbaren Personals zu verbessern, setzen Unternehmen zunehmend auf künstliche Intelligenz, z.B. zur Verteilung maßgeschneiderter Mikroaufträge oder zur Berechnung der effizientesten Route, um Mitarbeiter per Echtzeitnachricht von A nach B zu leiten. Smarte HRM-Software ist omnipräsent, während ein menschlicher Vorarbeiter den Überblick verlieren würde. Auch bei der Bewerberauswahl kann KI helfen, objektiv geeignete Kandidaten zu filtern und ungeeignete automatisch abzulehnen. Soweit die Arbeit an smarten Maschinen verrichtet wird, lässt sich die aktuelle Performance des Mitarbeiters automatisch miterfassen. Werden Beförderungsentscheidungen vom Computer – auf Basis messbarer Leistungswerte – getroffen, kann das nachweislich die allgemeine Produktivität und Zufriedenheit verbessern. Kein Wunder, ein menschlicher Vorgesetzter unterliegt seinem Bauchgefühl ( = Einfallstor für Fehlurteile und Diskriminierung).
Problem der Fehlerintransparenz
Der Roboter als Chef verspricht bessere, effizientere Entscheidungen. Im Durchschnitt. An dieser Stelle müssen ausgerechnet wir Juristen die Vorfreude bremsen. Da ist etwa das Problem der Fehlerintransparenz: Von außen ist technisch kaum erkennbar, ob und wieso eine KI-Entscheidung möglicherweise falsch zustande gekommen ist. Insbesondere wenn dem Algorithmus fehlerhaft klassifizierte Ausgangsdaten zugrunde liegen, besteht die Gefahr, dass KI bestehende Diskriminierungen oder Fehlannahmen eins zu eins perpetuiert. Diskriminierungsklagen sind da vorprogrammiert. Arbeitgeber, die smarte HRM-Software verwenden, sind gut beraten, dieses rechtliche Risiko möglichst auf ihren Softwareanbieter abzuwälzen, unter anderem mit passenden Freistellungs- und Nachweispflichten.
Gesetzgeber hinkt hinterher
Allgemein hinkt der Gesetzgeber der Technik hinterher, sodass der Einsatz von Robotern als Chef mit einiger Rechtsunsicherheit einhergeht. Um nur ein paar Fallstricke zu nennen: Muss und darf der Roboter vor einer Einzelentscheidung den Betriebsrat anhören? Wie lässt sich verhindern, dass KI den Arbeitnehmer derart zum Objekt degradiert, dass seine Menschenwürde verletzt wird? Kann eine fehlerhafte Robotererklärung später angefochten werden, wenn eine unbillige Weisung erteilt oder ein Mitarbeiter versehentlich befördert wurde? Wenn ja, von wem? Muss der Arbeitnehmer gar auf (offensichtliche) Softwarepannen hinweisen? Die gute Nachricht: Mit passenden Klauseln für Arbeitsvertrag und Betriebsvereinbarung kann der Arbeitgeber die beschriebene Rechtsunsicherheit pro-aktiv reduzieren.
Sensible Daten
Und was ist mit dem Datenschutzrecht? Grob gesprochen gilt: Je mehr Mitarbeiterdaten, 1. desto besser zwar die KI-Entscheidung, 2. desto mehr Kopfschmerzen bereitet jedoch die DSGVO. Die Panik des Gesetzgebers vor einer Maschinenherrschaft zeigt sich besonders an Art. 22 DSGVO, der einem teilweisen KI-Verbot gleichkommt. Unbedingt sollte der Arbeitgeber in der Lage sein, nachzuweisen, dass jede einzelne BigData-Anwendung für seinen Betrieb erforderlich ist. Hierin liegt der erste Schritt zur datenschutzkonformen Gestaltung.
Ausblick
Auch wenn beim Einsatz smarter HRM-Software Vorsicht geboten ist, eröffnet der Roboter als Chef doch vielversprechende Optimierungspfade. Es bleibt spannend, welche Best Practice sich hier in Zukunft durchsetzen wird.
Bis dahin verbleibe ich hochachtungsvoll
Ihr
David Bomhard
