Sicherheitscheck für KI im Automobil
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) entwickelt zusammen mit dem Automobilzulieferer ZF Konzepte und Methoden zur Prüfung der IT-Sicherheit von KI-Systemen in Kraftfahrzeugen.
Foto: panthermedia.net/Andriy Popov
Künstliche Intelligenz (KI) in Automobilen ist bereits Realität. Im Zuge von vernetzten Fahrzeugen, Fahrsicherheitssystemen und dem autonomen Fahren wird ihr Anteil weiter zunehmen. Was jedoch immer gewährleistet sein sollte, ist die IT-Sicherheit solcher Systeme.
Dem widmet sich seit rund einem Jahr das gemeinsame Projekt „AIMobilityAuditPrep“ vom Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Technologieunternehmen ZF. Basierend auf wissenschaftlichen Erkenntnissen und bestehenden Standards, wurden 50 technisch relevante Anforderungen an KI-Systeme zusammengestellt, eine erweiterbare Testumgebung für KI-Systeme entwickelt sowie die grundsätzliche Machbarkeit und praktische Umsetzbarkeit der Tests anhand ausgewählter Anwendungsfälle in einer Simulation demonstriert.
Künstliche Intelligenz in der Fahrzeugtechnik animiert zum Neudenken
Praktische Umsetzung von Sicherheitschecks für KI beim automatisierten Fahren steht an
Nun steht das Folgeprojekt an: Mit „AIMobilityAudit“ soll die praktische Umsetzung von Sicherheitschecks für KI beim automatisierten Fahren vorangetrieben werden. Dabei werden konkrete Prüfkriterien und Handlungsempfehlungen erarbeitet, die künftig u. a. in die Entwicklung von Sicherheitstests für Kraftfahrzeuge einfließen sollen.
Bis September 2024 wird das AI Lab von ZF das Projekt in Zusammenarbeit mit dem BSI als Auftraggeber umsetzen. Als weiterer Projektpartner ist die TÜV Informationstechnik GmbH (TÜVIT) eingebunden, ein auf IT-Sicherheit spezialisiertes Unternehmen der TÜV Nord Group.
Künstlicher Kapitän: Wenn die KI das Schiff steuert
Aufbauend auf den Ergebnissen des Vorprojekts sollen im nun gestarteten Projekt AIMobilityAudit die Erprobung und Weiterentwicklung von Anforderungen, Methoden und Werkzeugen gezielt an zwei Praxisbeispielen durchgeführt werden. Ziel ist es, auf Basis der gewonnenen Erkenntnisse eine modulare Technische Richtlinie zu erstellen.
Die Arbeiten an der Technischen Richtlinie sollen in diesem Jahr aufgenommen werden. Sie kann dann beispielsweise als Grundlage für eine internationale Standardisierung bzw. Abstimmung, u. a. auf Ebene des Unece World Forum for Harmonization of Vehicle Regulations (Weltforum für die Harmonisierung von Fahrzeugvorschriften), genutzt werden.
KI beim automatisierten Fahren birgt Risiken
„Künstliche Intelligenz ist eine Schlüsseltechnologie für hoch automatisiertes Fahren“, meint Georg Schneider, Leiter des ZF AI Labs am Standort Saarbrücken. „Um die enormen Chancen nutzen zu können, müssen wir uns auch sorgfältig mit den möglichen Risiken auseinandersetzen.“ Das Anliegen bei ZF sei es, den Einsatz von künstlicher Intelligenz für die Mobilität der Zukunft nachvollziehbar, sicher und in jeder Beziehung vertrauenswürdig zu gestalten.
Mehrheit der Bevölkerung sieht künstliche Intelligenz als Chance
„IT-Sicherheit als Grundvoraussetzung für eine vertrauenswürdige Digitalisierung muss auch für den Einsatz von KI hinreichend garantiert werden“, pflichtet Arndt von Twickel, Projektleiter im BSI, bei. Aktuell seien hierfür benötigte Informationen, Methoden und praktisch einsetzbare Werkzeuge jedoch nicht hinreichend verfügbar.
