DIE NÄCHSTE STUFE DER MOBILTÄT

Dr. Christoph Endres: Stefan, es freut mich, dass du heute hier bist. Deine Firma Veecle gilt als besonders fortschrittlich. Könntest du kurz erläutern, was genau ihr macht?

Dr. Stefan Nürnberger: Gerne. Wir bieten ein Software-Development-Kit an, das es Fahrzeugherstellern – egal ob Busse, Roller, Autos, LKWs oder Landmaschinen – ermöglicht, die Fahrzeugfunktionen, die üblicherweise über Steuergeräte von Zulieferern definiert werden, selbst zu programmieren. Dadurch werden die Logik und die Software von der eigentlichen Hardware entkoppelt. Dies ermöglicht die Entwicklung von Software-defined-Vehicles, bei denen sämtliche Funktionen vorab programmiert werden können, ohne sich frühzeitig auf eine spezifische Hardware festlegen zu müssen. Die endgültige Hardwareauswahl kann kurz vor Produktionsbeginn getroffen werden.

Dr. Christoph Endres: In den letzten anderthalb Jahren ist das Thema generative KI stark in den Vordergrund gerückt. Wie denkst du, wird sie den Automobilmarkt oder den Umgang mit unseren Fahrzeugen verändern?

Dr. Stefan Nürnberger: Generative KI, insbesondere große Sprachmodelle, verbessern das Verständnis für menschliche Anweisungen erheblich. Zum Beispiel könnte das Auto auf die Aussage „Mir ist kalt“ reagieren, indem es erkennt, wer das gesagt hat – ob Fahrer:in oder Beifahrer:in – und entsprechend die Klimaanlage anpasst oder das Fenster schließt. Das stellt eine signifikante Weiterentwicklung gegenüber den bisherigen Speech-to-Text-Anwendungen dar und hilft dabei, die kognitive Belastung für Benutzer:innen zu reduzieren.

Dr. Christoph Endres: Wird die Interaktion mit dem Auto sich darauf beschränken, dass wir ihm Anweisungen geben, oder wird es auch in der Lage sein, Smalltalk zu führen?

Dr. Stefan Nürnberger: Zukünftig wird es möglich sein, dass das Auto Smalltalk betreibt. Einige Hersteller experimentieren bereits mit erklärbarer KI, um den Insass:innen beispielsweise Entscheidungen des Fahrzeugs transparent darzustellen  – etwa warum es abbremst und die Spur wechselt. Dies hilft Insass:innen die Handlungen des Autos nachzuvollziehen und erhöht das Vertrauen in die Technologie.

Dr. Christoph Endres: Wie schätzt du das Bewusstsein der Autohersteller in Bezug auf die Sicherheitsrisiken von Sprachmodellen ein?

Dr. Stefan Nürnberger: Das variiert von Konzern zu Konzern, aber generell ist die Automobilindustrie eher risikoavers und zögerlich bei der Einführung neuer Technologien. Man möchte abwarten, ob und welche Sicherheitsrisiken bestehen, insbesondere da es auch um funktionale Sicherheit geht. Die Konnektivität bringt neue Sicherheitslücken mit sich, und wenn diese nicht ordentlich implementiert sind, können darüber Schadsoftware und andere Bedrohungen eindringen.

Dr. Christoph Endres: Glaubst du, dass während der Fahrt Erpressungsversuche durchgeführt werden könnten, wie etwa sofortige Zahlungen zu erzwingen? Beispielsweise mit riskanten Fahrmanövern, Verweigerung der Weiterfahrt, etc.? 

Dr. Stefan Nürnberger: Ich kenne keine realen Fälle, aber das wäre theoretisch ein effektives Szenario. Jedoch ist es unwahrscheinlich, dass eine Bitcoin-Überweisung unter solchen Bedingungen schnell genug durchgeführt werden könnte.

Dr. Christoph Endres: Welche Art von Schäden könnten theoretisch durch Large Language Models (LLMs) entstehen, insbesondere wenn sie nicht nur auf Spracheingabe angewiesen sind?

Dr. Stefan Nürnberger: Die Schäden könnten vielfältig sein, einschließlich der Umprogrammierung des Navigationssystems oder der ungewollten Steuerung anderer Fahrzeugfunktionen durch verborgene Befehle. Dies könnte passieren, wenn das Fahrzeug Zugang zum Internet hat und externe Quellen nutzt. Hier besteht eindeutig Bedarf an weiteren Sicherheitsmaßnahmen, um solche Risiken zu minimieren.

Das Gespräch mit Dr. Stefan Nürnberger bietet einen faszinierenden Einblick in die Zukunft der Automobiltechnologie und die Rolle, die generative KI dabei spielen könnte. Wir bedanken uns für das Interview.