Ein Aufkleber auf einem Stoppschild – beim Autofahren lässt sich davon normalerweise niemand aus dem Konzept bringen. Übernimmt Künstliche Intelligenz (KI) das Steuer, können solche Kleinigkeiten zur Gefahr werden. „Beim automatisierten Fahren besteht die Möglichkeit, dass das System die Umwelt schon bei geringen Abweichungen nicht mehr korrekt wahrnimmt“, sagt Richard Goebelt, Bereichsleiter Fahrzeug und Mobilität beim TÜV-Verband. Dann drohen Unfälle. Besonders schwerwiegend können die Folgen sein, wenn andere Verkehrsteilnehmer:innen nicht erkannt werden. Anders als bei menschlichen Fahrer:innen, die in den allermeisten Fällen für verkehrsgefährdendes Verhalten verantwortlich sind, sind die Ansprüche an die Technik sehr hoch – so das Ergebnis einer repräsentativen Umfrage des TÜV-Verbands unter 1.000 Personen in Deutschland. 46 Prozent der Bundesbürger:innen sind der Ansicht, dass eine KI für die Steuerung eines Fahrzeugs „absolut fehlerfrei“ arbeiten müsse. Weitere 27 Prozent verlangten zumindest eine höhere Sicherheit als beim Menschen. „Der Anspruch ist, dass menschliche Fehler durch Künstliche Intelligenz verhindert werden“, sagt Goebelt. Daher sollten Funktion und Wirkung sicherheitskritischer KI-Systeme während der gesamten Lebensdauer eines Fahrzeugs von unabhängigen Stellen geprüft werden. In der Umfrage befürworten das 78 Prozent der Befragten. Goebelt: „Auch KI-Systeme und die zugehörige Sensorik unterliegen dem Verschleiß oder können nach Unfällen fehlerhaft instandgesetzt werden und müssen daher regelmäßig überprüft werden.“

Die Erhebung des TÜV-Verbands belegt ein beträchtliches Interesse an autonomer Mobilität. 39 Prozent der Befragten können sich vorstellen, in einem vollautomatisierten Bus oder Pkw mitzufahren. 33 Prozent lehnten dies ab, 29 Prozent waren noch unentschieden. Künstliche Intelligenz ist die Basistechnologie für selbstfahrende Autos. KI-Systeme sind für die Verarbeitung der Daten zuständig, die ihnen zur Verfügung stehen – beispielsweise über den Straßenverlauf, über Schilder, Bewegungen und andere Verkehrsteilnehmer. „Menschen benötigen die Gewissheit, dass die KI-Systeme sicher genug sind, wenn sie in ein automatisiertes oder fahrerloses Fahrzeug einsteigen“, sagt Goebelt. „Entscheidend dafür sind international gültige Normen und Standards sowie entsprechende Testbedingungen und harmonisierte Datengrundlagen für das Anlernen der Systeme.“

Deutschland wird Pioniermarkt für autonomes Fahren

Mit dem Inkrafttreten des so genannten Gesetzes zum autonomen Fahren übernahm die Bundesrepublik im Juli 2021 international eine Führungsrolle. Einer Verordnung, die die Straßenzulassung und die Betriebsbereiche detailliert regelt, hat der Bundesrat im Mai 2022 zugestimmt. „Deutschland wird zu einem der Pioniermärkte für vollautomatisiertes Fahren“, sagt Goebelt. Allerdings ziele die aktuelle gesetzliche Regelung zunächst auf die Zulassung von automatisierten Funktionen etwa im Shuttle-Verkehr in genehmigten Betriebsbereichen im Straßenverkehr. „Autonome Mobilität, bei der das Fahrzeug seinen Weg völlig frei sucht, ist das jedoch nicht“, erklärt Goebelt. Das Gesetz umfasst zudem Regelungen für sogenannte „Dual Mode Fahrzeuge“. Ein Beispiel dafür ist das Automated Valet Parking, bei dem Pkw ihren Stellplatz in einem Parkhaus ganz ohne Fahrer:in per Smartphone-App finden. Es ist damit die weltweit erste behördlich für den Alltagsbetrieb zugelassene vollautomatisierte und fahrerlose Parkfunktion nach SAE Level 4.

Handlungsbedarf sieht der TÜV-Verband bei Standards und Methoden für die Prüfung von KI-basierten autonomen Fahrzeugen. „Wir sehen einen Mangel an global harmonisierten Standards und Normen zur Prüfung der KI-Anteile und der verwendeten Datenbasis“, sagt Goebelt. Vorschläge für die Entwicklung dieser Standards treibt der Verband mit seinen Mitgliedern unter anderem in der International Alliance for Mobility Testing and Standardization (IAMTS) voran. „Es muss technische und digitale Verfahren dafür geben, mögliche Fehlfunktionen zu entdecken, bevor die Fahrzeuge auf den Markt kommen“, sagt Goebelt. „Sicherheit und Vertrauen sind beim autonomen Fahren eine globale Herausforderung.“ Wichtig sei zudem, Prüfvorgaben für die Hauptuntersuchung bei Fahrzeugen mit entsprechenden Automatisierungsfunktionen zu erlassen. Diese fehlen laut Goebelt für bereits heute im Verkehr befindliche Fahrerassistenzsysteme.

„Zudem können Software-Updates und Upgrades over the Air sicherheitsrelevante Funktionen der Autos verändern“, erläutert Goebelt. Bei nachträglichen Veränderungen eines Kraftfahrzeugs stelle sich die Frage, ob die ursprüngliche Typgenehmigung noch gültig ist oder ein Nachtrag erforderlich ist. Der TÜV-Verband unterstütze den Gesetzgeber bereits dabei, Vorgaben für die Begutachtung und Überprüfung zu entwickeln. In diesem Zusammenhang hat der TÜV-Verband mit dem „TrustCenter“ ein Modell vorgestellt, das einen sicheren und datenschutzkonformen Zugang zu den hierfür relevanten Daten des Fahrzeugs ermöglicht. „Wir brauchen den Zugriff auf die Daten, um Fahrzeuge unabhängig überprüfen und bewerten zu können“, sagt Goebelt. „Datenschutz und Cybersecurity sind elementar, damit die Vorteile, die die Technik bringen soll, nicht untergraben werden.“

Methodik-Hinweis: Grundlage der Studienergebnisse ist eine repräsentative Umfrage des Marktforschungsunternehmens Statista im Auftrag des TÜV-Verbands unter 1.000 Personen ab 16 Jahren in Deutschland. Sie wurde im Sommer 2021 durchgeführt. Die vollständige Studie mit allen Fragen ist abrufbar unter: https://bit.ly/3MRnbIn