Heute: Anti-Bias-Herausforderungen in der Robotik

Sie können mit dem Begriff Bias nichts anfangen? Weswegen Sie auch keine Anti-Bias-Herausforderungen sehen können? Keine Sorge, da sind Sie nicht allein. Das Bias-Problem ist, Stand heute, eine der ganz großen Herausforderungen bei allen KI-basierten Prozessen in der Robotik, im R&D-Bereich, in der Fertigung und bei der Nutzung von Embedded Software mit selbstlernenden Algorithmen.

Prof. Dr. Klindt ist Rechtsanwalt und Partner der Kanzlei Noerr. Er ist Mitglied der AG Recht in der Plattform Industrie 4.0 und leitet dort die UAG Produkthaftung. (Bild: Noerr LLP)

Hinter Bias steckt ein in der mathematischen Statistik altvertrautes Phänomen, nämlich die Verzerrung im Output als Spiegelbild einer Verzerrung schon im Input: Wenn ich in einer Berechnung oder auch nur bei einer Schätzung einen nicht-repräsentativen Daten-Pool als Grundlage verwende, darf ich mich nicht wundern, wenn das ermittelte Ergebnis ebenfalls eine verschobene Aussagekraft hat. Problematisch wird dieser Wirkmechanismus immer dann, wenn ich irrtümlich davon ausgehe, die Ausgangsdaten seien sehr wohl repräsentativ, und ich deshalb dem Ergebnis dann vertraue. Diese Brisanz zeigt sich besonders im KI-Segment des Deep Learning und der selbstlernenden Systeme: mit sogenannten Trainingsdaten wird dem KI-System in iterativen Schleifen eine immer bessere Treffgenauigkeit in der Detektion und Identifikation gewünschter Muster beigebracht. Ob in der Tumorfrüherkennung, in der meteorologischen Prognostik oder bei automatisierter Mobilität: Die Trainingsdaten sind das A und O des späteren KI-Erfolgs.

Nun stellen Sie sich eine (versehentliche) Verzerrung dieses Trainingsdatensatzes vor, also die (versehentliche) Nichtberücksichtigung bestimmter Parameter: biometrische Faktoren, physikalische Phänomene, mobile Vektoren – sind sie im Trainingssatz unbekannt, kann die KI im algorithmischen Prozess damit nichts anfangen. In der Robotik können wir uns etwa Quittierungsabläufe nach Nothalt, Freigaben im Änderungsmanagement eines Cobots oder Tornotöffnungen via Gesichtserkennungssoftware vorstellen. Berüchtigte Beispiele aus den USA betrafen hier etwa Trainingsdaten zwar Tausender Gesichter, alle aber (unbedacht) weißhäutig. Und im Anwendungsfall versagt die KI der Person mit dunkler Hautfarbe die Identifikation?

Wir benötigen auch in der industriellen Robotik ein Gespür für die Notwendigkeit ‚astreiner‘ KI und ein gewisses Anti-Bias-Misstrauen.

Bleiben Sie gesund!

Ihr

Thomas Klindt