Rechtsexperte Sebastian Straub im Interview

Rechtliche Herausforderungen für die Servicerobotik

Serviceroboter sind auf dem Vormarsch. Neue technische Entwicklungen, wie Anwendungen mit künstlicher Intelligenz, verleihen den Maschinen mehr Autonomie und sorgen für einen Innovationsschub des gesamten Bereichs. Innovative Robotiklösungen werden so bereits in einer Vielzahl von Branchen eingesetzt. Gleichzeitig werden Roboter verstärkt auch im privaten Bereich genutzt und treten hier in engen Kontakt zu ihren Besitzern. Doch aus der engen Interaktion von Mensch und Roboter am Arbeitsplatz, im Haushalt oder an Orten des öffentlichen Lebens entstehen rechtliche Herausforderungen.

Sebastian Straub ist Rechtsexperte für Servicerobotik in der Begleitforschung des Technologieprogramms PAiCE, das vom Bundesministerium für Wirtschaft und Energie (BMWi) gefördert wird. Innerhalb der Arbeitsgruppe ‘Rechtliche Herausforderungen’ beschäftigt sich Straub mit dem Risikopotenzial zukünftiger Robotikanwendungen und entwickelt praxisgerechte Vertrags- und Regelungsstrategien. (Bild: Annette Koroll Fotos)

ROBOTIK UND PRODUKTION: Herr Straub, gibt es auf dem Gebiet der Servicerobotik denn bereits belastbare Referenzurteile?
Sebstian Straub: Auf dem Gebiet der Servicerobotik gibt es bislang keine nennenswerte Rechtsprechung. Eine Reihe von Urteilen im Bereich des Produkt- und Produzentenhaftungsrechts lassen sich aber auch auf die Servicerobotik übertragen. Grundsätzlich gilt, dass Hersteller von Servicerobotern auf Schadensersatz in Anspruch genommen werden können, wenn sie fehlerhafte Produkte auf den Markt bringen. Das Produkthaftungsgesetz sieht in diesem Zusammenhang eine verschuldensunabhängige Haftung vor. Das bedeutet, der Hersteller ist für Sach- und Personenschäden verantwortlich, unabhängig davon, ob ihn ein Verschulden trifft. Er haftet aber nur, wenn nachgewiesen wird, dass bei der Entwicklung des Produkts nicht der neueste Stand der Wissenschaft und Technik berücksichtigt wurde. Anders verhält es sich bei der Produzentenhaftung. Hier muss der Produzent beweisen, dass ihn hinsichtlich des Fehlers kein Verschulden trifft. Hersteller von Servicerobotern müssen also nachweisen können, dass in allen Phasen der Produktentwicklung die erforderliche Sorgfalt beachtet wurde. Die Verantwortlichkeit des Herstellers kann aber auch noch weiter gehen. Nach der Rechtsprechung des BGH muss der Hersteller auch nachdem ein Produkt auf den Markt gelangt ist, dieses auf unbekannt gebliebene schädliche Eigenschaften hin beobachten. Dieser Beobachtungspflicht kommt eine wachsende Bedeutung zu, z.B. wenn Robotiksysteme durch fehlerhafte oder veraltete Firmware Schäden verursachen.

ROBOTIK UND PRODUKTION: Welche Risiken gibt es für Hersteller? Sind diese von vorneherein kalkulierbar?
Straub: Risiken bestehen zunächst dort, wo es zu einer Interaktion zwischen Mensch und Roboter kommt. Kommt es aufgrund eines Fehlverhaltens des Roboters zu Personen- oder Sachschäden, stellt sich automatisch die Frage der Verantwortlichkeit. Bei wenig komplexen Produkten lässt sich in der Regel einfach nachprüfen, ob ein Produkt dem Stand der Wissenschaft und Technik entspricht bzw. ob der Hersteller bei Inverkehrbringen des Produkts sorgfaltsgemäß gehandelt hat. Anders verhält es sich bei komplexen und hochtechnisierten Produkten. Hier wird zunehmend das Problem auftreten, dass Fehlerverläufe aufgrund der wachsenden technischen Komplexität nur noch schwer nachvollziehbar sind. Das gilt insbesondere, wenn die Steuerung von Robotern mit Prozessen des maschinellen Lernens oder der künstlichen Intelligenz kombiniert wird. Es können Fälle auftreten in denen nicht mehr festgestellt werden kann, ob ein Fehlverhalten auf die ursprüngliche Programmierung oder auf das Trainieren durch den Nutzer zurückzuführen ist. In diesem Kontext sehe ich künftig eine Herausforderung für Hersteller, da es zunehmend schwieriger wird, das Risiko umfassend abzuschätzen.

„Auf dem Gebiet der Servicerobotik gibt es bislang keine nennenswerte Rechtsprechung.“ Sebastian Straub

ROBOTIK UND PRODUKTION: Sie haben gesagt, dass die zunehmende technische Komplexität künftig zu weiteren rechtlichen Risiken für Hersteller führen kann. In welchen Bereichen sehen Sie hier die größten Herausforderungen?
Straub: Es ist ganz richtig: Gerade im Bereich der Servicerobotik ist ein hoher Grad an Vernetzung festzustellen. Das bringt technisch viele Vorteile, führt aber auch dazu, dass Produkte anfälliger für externe Störungen werden, z.B. wenn die Funktionsfähigkeit durch Angriffe von außen beeinträchtigt wird. Hier stellt sich dann die Frage, ob Hersteller für Schäden, z.B. aufgrund von unterbleibenden Updates, verantwortlich gemacht werden können. Aber auch der Datenschutz gewinnt zunehmend an Bedeutung: Bei einer engen Mensch/Technik-Interaktion können auch persönliche Informationen des Anwenders verarbeitet werden. Sobald das geschieht, sind die Vorgaben des Datenschutzrechts zu beachten. Hersteller müssen die Datenschutzkonformität dabei nicht nur sicherstellen, sondern auch nachweisen können. Die Umsetzung dieser Vorgaben bedeutet nicht nur einen hohen Aufwand. Verstöße können auch mit empfindlichen Bußgeldern geahndet werden.

ROBOTIK UND PRODUKTION: Welche rechtlichen Fragen sind noch offen? Was wäre der größte denkbare Worst-Case?
Straub: Bislang geht man überwiegend davon aus, dass alle haftungsrechtlichen Konstellationen vom derzeitigen Rechtsrahmen abgedeckt werden, es also keiner neuen Gesetze bedarf. Im Zusammenhang mit neuen Robotiksystemen werden aber auch neue Lösungsansätze diskutiert, bis dahin, Roboter als elektronische Personen einzustufen. Greifbarer sind derzeit sicherlich Überlegungen, den Betrieb von bestimmten risikobehafteten Robotiksystemen mit den Instrumenten der Gefährdungshaftung in Kombination mit dem Abschluss einer Pflichtversicherung zu begegnen. Diese Überlegungen greifen jedoch nur im Verhältnis zwischen dem Systembetreiber bzw. dessen Versicherung und dem Geschädigten. Ein Rückgriff auf den Hersteller wird damit nicht automatisch ausgeschlossen. Aus Sicht des Herstellers wäre ein durch eine Fehlsteuerung des Roboters verursachter Personenschaden ein ernstzunehmender Vorfall. Solche Risiken können gegebenenfalls durch entsprechende Versicherungen abgesichert werden. Daneben wird diskutiert, ob es den Herstellern nicht ermöglicht werden soll, ihre Haftung zu beschränken, indem sie in einen Entschädigungsfond einzahlen. Kommt es dann zu einem Schadensfall, könnte ein solcher Fond einspringen. Es ist derzeit aber nicht absehbar, dass eine solche gesetzlich geregelte Haftungsbeschränkbarkeit umgesetzt wird.

„Es wird zunehmend schwieriger, das Risiko umfassend abzuschätzen.“ Sebastian Straub

ROBOTIK UND PRODUKTION: Welche rechtlichen Parallelen könnte es zu industrieller Servicerobotik bzw. der Mensch/Roboter-Kollaboration geben?
Straub: Sobald Roboter in einer Betriebsstätte eingesetzt werden oder in anderer Weise in den Arbeitsprozess in Unternehmen eingebunden sind, greifen andere regulatorische Mechanismen, wie z.B. das Arbeitsschutzgesetz oder die Betriebssicherheitsverordnung. Auch hier muss im Hinblick auf mögliche Risiken eine Gefährdungsbeurteilung vorgenommen und gegebenenfalls entsprechende Schutzmaßnahmen eingeleitet werden. Diese Gefährdungsbeurteilung muss jedoch der Arbeitgeber treffen.