Autonomes Fahren: TÜV für KI

Dirk Stenkamp, Präsident des TÜV-Verbands, zur Überprüfbarkeit von KI in automatisierten Fahrzeugen, E-Mobilität und Europas Qualitätsanspruch.

VDI nachrichten: Normalerweise assoziieren viele Menschen mit dem TÜV Automobile. Hat ihre Hauptarbeit noch viel mit Autos zu tun?

Stenkamp: In Deutschland macht die Mobilität circa 30 % unseres Umsatzes aus. Auto und Mobilität sind und bleiben wichtig, unsere Dienstleistungen sind aber wesentlich breiter aufgestellt und umfassen alles, was weltweit mit technischer und digitaler Sicherheit zu tun hat. Ein großes Tätigkeitsfeld bilden Industrieinspektionen. Hier reicht das Spektrum von der Prüfung in Raffinerien und Kraftwerken über die Zulassung neuer Windkraftanlagen bis hin zur Überwachung der Gebäude- und Aufzug­sicherheit.

Einen weiteren Bereich bilden Produktprüfungen von Konsumgütern, Elektrogeräten oder hochkomplexen IT- oder Medizinprodukten – überall dort, wo Sicherheit gefragt und notwendig ist. Zunehmend prüfen wir Produkte auch auf Nachhaltigkeit und entwickeln Zertifizierungen für Künstliche Intelligenz.

Zurück zu den Automobilen: Wie viel Prozent machen bei der Überprüfung eines Automobils Mechanik, wie viel macht Software aus?

Natürlich müssen Fahrwerk, Bremsen oder das Abgasverhalten bei Verbrennern auch zukünftig bei der Hauptuntersuchung (HU) geprüft werden. Klar ist aber auch, dass digital gesteuerte Funktionen im Auto immer wichtiger und häufiger werden. Seit 2015 können wir über die sogenannte Onbord-Diagnose-Schnittstelle und den HU-Adapter digitale Daten eines Fahrzeugs auslesen. Darüber ist es beispielsweise möglich, die Funktion von Fahrassistenzsystemen zu prüfen.

TÜV für Algorithmen

Das Auto wird ein rollender Computer, der auch permanent Updates braucht. Tesla spielt alle zwei Wochen ein Update ein. Wie kommen Sie da noch hinterher?

Richtig. Das Risiko liegt in ungewollten Wechselwirkungen der Systeme im Auto, die durch Software-Updates auftreten können. Die Typzertifizierung, also die Zulassung eines neuen Fahrzeugmodells, beruht auf einem definierten Softwarestand. Ungeprüfte Software-Updates können in ungünstigen Fällen negative Auswirkungen auf das Fahrverhalten haben, sind also sicherheitsrelevant. In diesen Fällen halten wir eine vorgeschaltete Überprüfung und Freigabe von Updates für erforderlich. Das betrifft insbesondere auch den Einsatz von KI. Wir brauchen einen TÜV für Algorithmen.

Ist das denn überhaupt umsetzbar?

Wir haben uns bereits im Kontext des Dieselskandals für Software-Prüfungen eingesetzt. Heute zielen wir mit unserer Forderung auf automatisierte Fahrfunktionen wie Brems- und Spurhalteassistenten ab. Hierfür sollte es bei der Hauptuntersuchung verpflichtende Überprüfungen geben.

Und damit sind wir beim Thema Daten. Das moderne Auto generiert große Mengen digitaler Daten und eine kritische Frage ist: wer hat Zugang zu den Daten und wer stellt sicher, dass die Daten unverfälscht und originär sind? Je weiter sich ein Auto digitalisiert und automatisiert, umso wichtiger wird diese Fragestellung. Beispiele sind die kriminelle Manipulation digitaler Tachostände oder die Rekonstruktion von Unfällen durch Auswertung aufgezeichneter Fahrdaten.

Können Sie uns dafür ein Beispiel aus der Praxis nennen?

Ich erinnere an den tödlichen Unfall mit einem automatisiert fahrenden Taxi, das im März 2018 in Arizona eine Frau ignoriert hat, die beim Überqueren der Straße ihr Fahrrad schob. Dieser Zustand war seinerzeit nicht im Trainingsumfang der Software enthalten. So hat es die Rekonstruktion des Unfalls ergeben. Deshalb sind regelmäßige Software-Updates einerseits so wichtig. Aber hierbei ist auch sicherzustellen, dass diese nicht zu neuen Sicherheitsrisiken führen.

Wem gehören die Autodaten?

Als TÜV wollen sie also tiefer in die Systeme schauen – ob das nun die Assistenzsysteme oder die Motorsteuerung sind. Eine Art Tieftauchen ins Auto also?

Unsere Forderung betrifft zum einen den Zugang zur Software des Autos, zum anderen zu sicherheitsrelevanten Daten. Für unsere hoheitlichen Aufgaben der Verkehrssicherheit benötigen wir den Zugang zu originären und unverfälschten Daten. Das wird zunehmend relevant, je weiter wir in den Stufen des automatisierten Fahrens voranschreiten.

Wer ist zur Zeit des Unfalls der Fahrer gewesen? War es der Mensch oder war es die Software? Das ist für Versicherer genauso relevant wie für Anwälte und Richter. Eine unserer Forderungen an die Politik lautet daher, dass eine neutrale Instanz über die Verwaltung und Verarbeitung von Mobilitätsdaten wacht.

Die Frage ist ja immer: Wem gehören die Daten? Laut Datenschützern dem Fahrer oder Halter, aber nicht dem Hersteller, keinem Zulieferer und auch keinem Mehrwertdiensteanbieter. Wie sehen Sie das?

Wenn Sie ein Auto kaufen, lautet die kaufvertragliche Regelung mit dem Hersteller in vielen Fällen: Tausche Schlüssel gegen Daten, indem der Hersteller exklusive Nutzungsrechte an den Fahrdaten erhält. Aber auch Autovermietungen, Werkstätten, Start-ups und andere Mobilitätsdienstleister benötigen Fahrzeug- und Fahrdaten, um ihre Services anbieten zu können. Auch wir als TÜV sind darauf angewiesen. Um den Datenzugang sicher und datenschutzkonform zu organisieren, haben wir ein Trustcenter-Modell entwickelt.

Künstliche Intelligenz prüfen

Sie erwähnten die künstliche Intelligenz. Wir haben mittlerweile KI in vielen Geräten. Wie lässt sich die denn prüfen?

Künstliche Intelligenz ist ein stark wachsendes Feld, bei dem Algorithmen eingesetzt werden, welche über Lernprozesse sehr effizient und schnell komplexe Aufgaben lösen können, beispielsweise, indem sie die Navigation oder Bremsunterstützung im Auto übernehmen. Bei der Sicherheit von KI-Anwendungen geht es vor allem um zwei Anforderungen.

Erstens: Wie baue ich einen sicheren Algorithmus, der sich beispielsweise nicht durch veränderte Umgebungsbedingungen irritieren oder täuschen lässt? Erkennt mein Fahrassistent beispielsweise ein Stoppschild auch dann noch zuverlässig, wenn da plötzlich ein Sticker draufklebt? Und wie gut sind Systeme vor Cyberangriffen geschützt? Die zweite Anforderung betrifft die Trainingsdaten zum Anlernen der KI. Wie vollständig sind diese Daten für den beabsichtigten Einsatzzweck? Werden alle Eventualitäten abgedeckt? Denken Sie an das Beispiel der getöteten Radfahrerin. Brauchen wir deshalb nicht eine Fahrprüfung für KI-basierte Fahralgorithmen?

Wie ausgereift sind diese Prüfungsansätze?

Wir haben Anfang des Jahres ein TÜV AI.Lab gegründet, um die Prüfung von künstlicher Intelligenz noch schneller voranzubringen und offene Fragen zu beantworten, etwa zu KI-Risikoklassen. Besonders interessant ist die Sicherheitsprüfung von KI-Software: diese erfolgt vielfach mittels KI-basierter Prüfsoftware. KI prüft KI. Das ist eine ganz neue Forschungsrichtung, bei der wir beispielsweise mit Fraunhofer-Instituten zusammenarbeiten.

Die Informatikerin Katharina Zweig sagt immer, die Nachvollziehbarkeit der Entscheidungen sei wichtig…

Bei KI-basierter Software ist eine kausale Nachvollziehbarkeit von Systementscheidungen oftmals unmöglich, da unvorstellbar große Datenmengen und deren Korrelation an der Entscheidung beteiligt waren. Ab einer bestimmten KI-Stufe ist ein „Reverse-Engineering“ von Systementscheidungen nicht mehr möglich.

Regulierung von KI

Muss sich der Mensch einer KI-basierten Entscheidung hingeben?

Das sind grundlegende Fragestellungen, welche durch Ethikkommissionen erörtert und vom Gesetzgeber festgelegt werden. Klar ist aber, dass KI in immer mehr Lebensbereichen Einzug hält.

Künstliche Intelligenz sollte ethische, technische und rechtliche Sicherheit beinhalten. Wenn KI beispielsweise im Recruiting von Personal eingesetzt wird oder für die Bewertung der Kreditwürdigkeit von Bankkunden, dann braucht es Regularien, um Diskriminierungsfreiheit und Privatsphäre zu gewährleisten. Immer dann, wenn ein Algorithmus bei der Bewertung von Menschen eingesetzt wird, sollte er durch eine neutrale Stelle wie den TÜV geprüft werden. Die EU will hier vorangehen und KI als weltweit erster Wirtschaftsraum regulieren.

Das will die EU in ihrem Grundrechtekatalog tun?

Die EU-Kommission hat im Frühjahr einen Regulierungsvorschlag für künstliche Intelligenz vorgelegt. Sinnvoll ist darin der Ansatz, dass KI-Systeme nach ihrem Risiko reguliert werden sollen. Ein intelligenter Spamfilter muss anders behandelt werden als ein Fahrassistenzsystem im Auto. Der EU-Vorschlag fokussiert sich auf KI-Systeme mit hohem Risiko. Aber selbst hier sind nur für bestimmte Anwendungen unabhängige Prüfungen verpflichtend vorgesehen. KI-Anwendungen mit mittlerem und geringem Risiko bleiben nahezu unreguliert. Wir als TÜV-Unternehmen plädieren für grundlegende Sicherheitsanforderungen, die auch diese KI-Systeme erfüllen müssen.

KI Made in Germany

Müsste nicht schnell eine Art ‚KI made in Germany‘ entwickelt werden? Vieles kommt aktuell aus den USA oder China.

Diese Sichtweise unterstützen wir. Wir sollten bei KI als Europa unseren eigenen, individuellen Weg gehen, der sich an hoher Qualität und hohen ethischen Standards orientiert. Dazu schlagen wir einen interdisziplinären AI Testing & Quality Hub vor. Prüfunternehmen, Normungsorganisationen, Forschungseinrichtungen, Start-ups sowie Anbieter und Anwender von KI sollen hier neue Standards und Methoden entwickeln, um die europäischen Werte in konkreten KI-Anwendungen zu verankern.

Diesen Vorschlag haben wir in die KI-Normungsroadmap der Bundesregierung eingebracht, bei der auch DIN und das Deutsche Forschungszentrum für künstliche Intelligenz (DFKI) mitgearbeitet haben. So schaffen wir einen Mehrwert für Unternehmen im internationalen Wettbewerb.

Themenwechsel: Alle setzen aktuell auf E-Mobilität. Ist die Prüfung von E-Mobilen schwieriger?

Nein. Sie ist nicht schwieriger, aber sie verläuft anders. Abgasuntersuchung und Prüfung von verbrennertypischen Komponenten entfallen. Dafür schauen wir uns die Fahrbatterie, Ladekabel, Ladeelektronik und andere Systemteile genau an. Unsere Aufgabe besteht darin, die spannungs- und stromtechnische Sicherheit des Autos zu überprüfen – schließlich geht es um Hochvolttechnologie.

Batterien und Wasserstoff

Gebrauchte Batterien von E-Mobilen wandern als Speicher in Einfamilienhäuser. Auch da muss ja eine Prüfung erfolgen…

Die Batterie ist nicht nur die teuerste, sondern auch die ökologisch sensibelste Komponente eines Elektrofahrzeugs. Wenn wir sie nicht effizient nutzen und vor dem Ende ihrer Lebenszeit entsorgen, haben wir für die Umwelt- und Klimabilanz nichts gewonnen. Batterien sollten möglichst lange im Auto und danach im stationären Bereich eingesetzt werden. Dafür muss klar erkennbar sein, in welchem Zustand die Batterie ist und welche Kapazität sie noch hat.

Es geht um den „State of Health“ der Batterie, für dessen Ermittlung es bis heute noch kein standardisiertes Verfahren gibt. Deshalb setzen wir uns für einen europäischen Batteriepass ein. Neben dem technischen Zustand sollten darin die Batteriehistorie, die verwendeten Materialien sowie weitere Parameter der zugrunde liegenden Rohstoff- und Lieferkette eingehen. Daran arbeitet auch die Global Battery Alliance, der wir als TÜV-Verband seit diesem Sommer angehören.

Kommen wir zum nächsten Hypethema, dem Wasserstoff. Da rollt doch viel Arbeit auf Sie zu, oder?

Wir als TÜV befassen uns seit vielen Jahrzehnten mit Wasserstoff, einem bekannten Industriegas.

Auch das Stadtgas, früher ein Abfallprodukt aus der Kohleentgasung, welches beispielsweise im Ruhrgebiet zum Heizen oder Kochen genutzt wurde, bestand zur Hälfte aus Wasserstoff. Viele der heutigen Erdgasnetze waren dort ursprünglich Stadtgasnetze. Heute erstellen wir Gutachten und Konzepte, inwieweit sich diese damaligen Stadtgasnetze für den Transport von Wasserstoff nutzen lassen. Das würde enorme Kosten sparen.

Wir begleiten viele Industriekunden bei der Umstellung auf Wasserstoff, zum Beispiel Stahlwerke. Dort wird mit Windkraft zunächst grüner Strom und mithilfe von Elektrolyseuren grüner Wasserstoff erzeugt. In den Hochofenkonvertern wird dieser Wasserstoff eingesetzt, um das Eisenerz zu reduzieren.

Nicht zuletzt ist Wasserstoff in der Mobilität ein großes Thema. Vor allem für den Lkw-Schwerlastverkehr ist Wasserstoff derzeit eine Option, ebenso bei Zügen und Schiffen. Ich glaube aber daran, dass Wasserstoff perspektivisch auch im Pkw zum Einsatz kommen wird, obwohl batterieelektrisches Fahren derzeit im Fokus steht.

Die Politik ist gefragt

Ob autonomes Fahren, KI oder auch Wasserstoff. Überall müssen auch politische Entscheidungen gefällt werden. Was wünschen Sie sich von einer kommenden Bundesregierung?

Die neue Bundesregierung muss die zentralen Herausforderungen unserer Zeit in den Mittelpunkt stellen: Klimaschutz und Nachhaltigkeit. Das zweite Kernthema ist die Digitalisierung, bei der wir im globalen Wettbewerb hinterherhinken. Insbesondere müssen wir die digitale Sicherheit weiter stärken. Hier gilt es, Sicherheit und Innovationen zusammen zu denken und diese nicht gegeneinander auszuspielen.

Europa sollte als große Industrieregion für hochqualitative Güter stehen, die digital sicher sind und nachhaltig produziert, vertrieben und entsorgt werden. Darin sollte unser europäischer Wettbewerbsvorteil liegen.

Wie wollen Sie das in der Praxis erreichen?

Digitale Sicherheit, der Schutz der Privatsphäre, Nachhaltigkeitskriterien und ethische Prinzipien müssen standardmäßig in den Produkten implementiert sein: Cybersecurity, Privacy, Sustainability und Ethics by-default. Konkret bedeutet das: Welche Anforderungen beim Passwortschutz muss ein vernetztes Produkt erfüllen? Wie weise ich nach, dass der verwendete Wasserstoff wirklich grün ist? Oder wie stellen wir sicher, dass eine KI-Software Menschen nicht diskriminiert? Diese Fragen müssen geklärt werden, insbesondere durch eine intelligente Gesetzgebung.

Und das würde unsere Hersteller so stark machen, dass sie mit ihren Produkten gegen Billiganbieter aus China punkten können?

Nachhaltigkeit und digitale Sicherheit werden für Verbraucherinnen und Verbraucher immer wichtiger und sie richten ihr Kaufverhalten zunehmend danach aus. Diese Produktmerkmale prüfen und bestätigen wir über geeignete TÜV-Siegel. Und wenn sie sich einen digital sicheren WLAN-Router oder Sprachassistenten, gesunde Lebensmittel oder ein sicheres Elektroauto kaufen wollen, werden sie auf diese Siegel achten.

„Gute Hacker“ im Einsatz

Haben sie genug Mitarbeiterinnen und Mitarbeiter für diese Arbeit?

Allein im Bereich IT-Sicherheit haben wir viele Expertinnen und Experten, die bei uns eine mehrjährige Ausbildung durchlaufen. Als sogenannte „gute Hacker“ versuchen sie, Verschlüsselungssysteme zu überlisten, Bankkarten zu knacken oder in Netzwerke von Firmen und Organisationen einzudringen. Aber auch wir spüren den Fachkräftemangel und stehen im Wettbewerb um die besten Talente.

Wir punkten dabei oftmals mit unserem Purpose, unserem Unternehmenszweck. Zu uns kommen viele junge Menschen, die eine Mission in sich tragen: Sie wollen die Welt von morgen besser machen, indem sie sicherer und nachhaltiger wird.

Sind die Deutschen also keine Technikskeptiker mehr?

Durch das Thema Nachhaltigkeit erfährt das Thema Technologieoffenheit einen neuen Schub. Fast alle verstehen mittlerweile, dass sich etwas ändern muss und dass wir Innovationen brauchen, um diesen Planeten weiter lebensfähig und lebenswert zu halten. Und das ist wiederum ein Auftrag an uns als TÜV-Unternehmen. Nur dort, wo neue Produkte und Technologien sicher zum Einsatz kommen, wird breite Akzeptanz erzielt und es entsteht Vertrauen in Innovation.