KI und Fahrzeugsicherheit

00:00:00: Die Björnsteigerstiftung.

00:00:02: Der Podcast.

00:00:04: Mai 1969.

00:00:06: Auf dem Rückweg vom Schwimmbad wird der 8-jährige Björnsteiger

00:00:09: von einem Auto erfasst und dabei schwer verletzt.

00:00:12: Es dauert fast eine Stunde, bis endlich ein Rettungswagen eintrifft.

00:00:16: Björnsteiger stirbt.

00:00:18: Nicht an seinen Verletzungen, sondern an den Folgen eines Schocks.

00:00:22: Die Eltern Ute und Siegfried Steiger gründen erst einen gemeinnützigen Verein.

00:00:26: Später entsteht daraus die Björnsteigerstiftung.

00:00:29: Durch ihr unerlässliches Engagement wurden bis heute

00:00:32: Millionen Menschenleben gerettet und vergleichbare Schicksalsschläge vermieden.

00:00:36: In diesem Podcast geht es um die Arbeit der Björnsteigerstiftung

00:00:40: und die Bedeutung einer funktionierenden Notfallhilfe.

00:00:43: Wir sprechen mit Experten, Betroffenen und den Machern hinter den Kulissen.

00:00:47: Folge 10.

00:00:48: KI und Fahrzeugsicherheit.

00:00:50: Übernehmen unsere Autos künftig das Denken.

00:00:54: Mein Name ist Belanda und in dieser Folge blicken wir gemeinsam

00:00:57: mit dem Verkehrsexperten und Unfallforscher Siegfried Brockmann

00:01:00: in die Zukunft.

00:01:02: Kann tünstliche Intelligenz helfen, unsere Straßen sicherer zu machen

00:01:06: und um Leben zu retten?

00:01:08: Was sind die Rechtsgrundlagen und werden wir tatsächlich eines Tages

00:01:11: kompletter Beifahrer der KI?

00:01:14: Herr Brockmann, schön, dass wir uns heute wiedersehen.

00:01:17: Wie weit ist die Entwicklung autonomer Fahrzeuge

00:01:20: und KI, also künstliche Intelligenzgesteuerte,

00:01:23: Systeme im Automobilsektor fortgeschritten?

00:01:26: Also ich glaube, da müssen wir erstmal eine Begriffsklerung machen.

00:01:30: Wir unterscheiden in der Fahrzeugtechnik zwischen automatisierten

00:01:34: und autonomen Fahrzeugen.

00:01:37: Und autonome Fahrzeuge sind ausschließlich Fahrzeuge,

00:01:40: in denen kein Lenkrad mehr existiert oder wenn es existiert,

00:01:43: es nicht mehr benutzt werden müsste.

00:01:46: Das heißt, das Fahrzeug macht wirklich alles völlig alleine.

00:01:49: Also gar nicht mehr dauerhaft.

00:01:51: Der Fahrer kann sich dann auch völlig abwenden,

00:01:54: kann sich umdrehen.

00:01:56: Manchmal sieht man ja so futuristische Entwürfe,

00:01:59: wo die da alle sozusagen am Konferenztisch im eigenen Auto sitzen.

00:02:02: Also so ähnlich darf man sich das dann vorstellen,

00:02:05: während wir jetzt im Moment bei der Entwicklung von automatisierten

00:02:09: Fahrzeugen in verschiedenen Entwicklungsstufen sprechen.

00:02:13: Und da muss man mal klar sagen, das ist noch nicht so wahnsinnig weit her.

00:02:19: Denn wir haben also die Entwicklung von Driver Only.

00:02:23: Also das heißt, der Fahrer macht alles selber.

00:02:26: Hinzu assistiert im Fahren, die ist weitgehend fortgeschritten

00:02:31: bei modernen Fahrzeugen.

00:02:33: Das heißt, das Fahrzeug zeigt mir an, wenn ich etwas anders machen soll,

00:02:38: beispielsweise ich fahr zu schnell oder ich habe zu wenig Sicherheitsabstand,

00:02:42: dann blind ist oder gibt es sogar ein Piepton von sich.

00:02:45: Oder ich habe Notbremsassistenten, die im Zweifel eingreifen,

00:02:49: wenn ich selber nicht schnell genug bin.

00:02:51: Ich habe auch intelligenten Tempomaten,

00:02:54: der also die Geschwindigkeit zum Vordermann hält

00:02:56: und im Zweifel die eigene reduziert, ähnliche Dinge.

00:02:59: Das sind assistierte Fahrfunktionen, wo moderne Fahrzeuge schon ziemlich gut sind.

00:03:05: Und das ist aber jetzt wieder für den Unfallforscher nämlich entspannender Punkt.

00:03:09: Da geht es nämlich um Funktionen, die dem Fahrer, deswegen heißt es ja so,

00:03:13: assistieren. Und zwar immer dann, wenn er einen Fehler macht

00:03:17: oder im Begriffen ist, einen Fehler zu machen, sollen die eingreifen.

00:03:21: Umgekehrt formuliert, der Fahrer merkt die gar nicht, wenn er alles richtig macht.

00:03:25: Nicht immer den richtigen Abstand hätte, immer früh genug Bremse,

00:03:29: nie die Spurverlasse aus Leichtsinnigkeit oder so,

00:03:33: werde ich diese Assistenten nie merken.

00:03:36: Und das ist auch ihr Sinn.

00:03:38: Und jetzt kommt diese nächste Entwicklungstufe, die auch ingenieurtechnisch extrem anspruchsvoll ist,

00:03:45: nämlich die der automatisierten Fahrzeuge der nächsten Entwicklungstufe.

00:03:50: Das heißt, ich habe jetzt ein Fahrzeug, was beispielsweise auf der Autobahn,

00:03:54: und das ist im Moment die Standardfunktion, etwa nicht in der Stadt,

00:03:58: die Standardfunktion für automatisierte Fahrzeuge der nächsten höheren Stufen,

00:04:04: die da eine ganze Stunde alleine vor sich herfahren können,

00:04:07: weil sie die Spur erkennen, weil sie den Vordermann erkennen,

00:04:10: weil sie alleine runterbremsen.

00:04:12: Es gibt auch Fahrzeuge, die sobald ich den Blinkersätze dann auch die Spur wechseln würden.

00:04:18: Das heißt, ich habe als Fahrer wenig zu tun.

00:04:22: Und jetzt wird es spannend, weil natürlich der Fahrer etwas zu tun haben muss.

00:04:28: Das sind Grundlagen der Psychologie, die haben wir im Auto verankert,

00:04:31: gar nichts zu tun.

00:04:32: Wenn jemand einfach nur da sitzt und nichts zu tun hat,

00:04:37: dann lenkt er sich entweder ab, also pädter auch mit dem Handy spielen,

00:04:40: oder er schläft allen mehr Möglichkeiten, hat man gar nicht auf die Dauer.

00:04:43: Wir werden ja nicht von 10 Minuten jetzt.

00:04:45: Und das heißt, dass wir an einem sehr, sehr kritischen Punkt angekommen sind,

00:04:51: wo die Systeme halt entweder alles können müssen oder aber nichts können in dem Bezug.

00:04:58: In dem Moment, wo ich zwei Stunden den Fahrer alles abnehme,

00:05:01: aber dann sage ich, ja, Moment, aber jetzt verstehe ich die Situation nicht mal.

00:05:04: Lieber Freund, du hast jetzt zehn Sekunden Zeit, sieh zu, wie du dich da rettest.

00:05:08: Dann erwische ich den Jahr in einer Verfassung, wo er überhaupt nichts weiß.

00:05:13: Der hat jetzt die ganze Zeit, wenn wir fahren, haben wir den Spiegel im Auge.

00:05:18: Ich weiß, was vor mir und hinter mir gerade los ist.

00:05:21: Ich kann die Spur wechseln ohne zehn Sekunden Zeit, weil ich ja weiß, da ist nichts.

00:05:25: Da ist wer.

00:05:26: Ich habe immer mal wieder auf den Tachos geguckt.

00:05:28: Ich weiß, wie schnell ich bin. Keine einzige dieser Informationen hat jemand,

00:05:31: der jetzt seit zwei Stunden chauffiert wird.

00:05:33: Und dann soll er innerhalb weniger Sekunden das Problem lösen.

00:05:37: Und das wird eben nicht funktionieren.

00:05:40: Und deswegen ist die Forderung von Anfang an eigentlich immer so gewesen.

00:05:44: Macht mir keine Autos, die so ein bisschen mehr können als assistiertes Fahren.

00:05:49: Es gibt sogar Marken, die damit verbunden sind, die darf ich aber jetzt nicht nennen.

00:05:52: Und macht mir Fahrzeuge, die dann wirklich so gut sind, dass das Eingreifen des menschlichen Fahrers die absolute Ausnahme ist.

00:06:01: Nie wird man das ganz ausschließen können.

00:06:03: Auch im Flugzeug kann man das nicht völlig ausschließen, dass der Pilot nicht doch irgendwann mal eingreifen muss,

00:06:08: weil irgendein System nicht richtig funktioniert.

00:06:10: Aber an der Stelle sind wir bisher nicht.

00:06:13: Wir haben Fahrzeuge, die das einigermaßen gut können, aber immer wieder dem Fahrer sozusagen die Fahraufgabe übergeben müssen.

00:06:20: Das machen die, indem sie mitteilen.

00:06:22: Jetzt wird die Fahraufgabe übernehmen.

00:06:24: Dann hat man ein paar Sekunden, da muss man das tun.

00:06:26: Ich hatte so ein Auto da, das fuhr in manchen Abschnitten alleine,

00:06:30: muss die alle 30 Sekunden auf so einen Knopf drücken und sagen, okay, okay, okay,

00:06:34: wenn ich das nicht getan habe, fuhr dann noch eine 30 Sekunden weiter.

00:06:37: Und dann weiß gar nicht, was dann passiert.

00:06:39: Ich habe dann immer wieder drauf geguckt.

00:06:40: Hatte es aber auch bei diesem Fahrzeug, sehr entwickeltes Fahrzeug tatsächlich,

00:06:44: nicht dieses berühmte, das wir alle in Verbindung bringen mit dem Autonomenfahren,

00:06:48: das aus Amerika kommt, sondern ein heimisches, wo ich tatsächlich auf einen Block zugefahren bin

00:06:54: und das Auto in diesem Modus das nicht erkannt hat.

00:06:57: Also hätte ich da nicht reagiert, wäre das wahrscheinlich eine Vollbremsung geworden oder was auch immer,

00:07:02: aber weil die Spurechts nicht entsprechend für Abgrenzung gesorgt hat.

00:07:07: Der Spurwechsel war nicht auf der Fahrbahn vorgegeben, wahrscheinlich war das der Grund.

00:07:12: Also auch da sehen wir, dass es da eine Vorgaukelung gibt, immer noch von Sicherheit,

00:07:17: auf die man sich dann natürlich auch verlässt.

00:07:19: Das ist genau der springende Punkt, dass man sich irgendwann darauf verlässt.

00:07:23: Also je besser die ist, desto mehr wird man sich darauf verlassen.

00:07:27: Aber es gibt eben kein einziges System, was absolut perfekt ist hier.

00:07:32: Und gerade so Themen wie welche Spur ist das jetzt eigentlich?

00:07:36: Wie erkenne ich die?

00:07:37: Dann braucht es sogenannte redundante Systeme.

00:07:40: Das heißt also zum Beispiel Kamera und Sensor, die gegenseitig quasi sich dasselbe bestätigen müssen.

00:07:46: Sonst macht das Auto nichts, was ja auch richtig ist.

00:07:49: Man hat manchmal nur Radar-Shutten.

00:07:51: Und wenn das dann in der Vollbremsung gehen würde, auch nur das da faktisch was ist,

00:07:54: da wäre es ja eine ähnliche Katastrophe.

00:07:56: Es sind also sehr, sehr viele ingenörtechnische Herausforderungen drin

00:08:00: und auch noch eine, die man auch nicht unterschätzen darf.

00:08:04: Wir haben ja die passiven Sicherheitssysteme, also die man gar nicht hoch genug einschätzen kann.

00:08:09: In ihrer Bedeutung für die Verringerung von Verkehrsopfern, wie zum Beispiel den Gurt.

00:08:14: Da ist es so, dass natürlich jemand, der jetzt die ganze Zeit nichts zu tun hat,

00:08:19: der Wetter nicht exakt in seiner Position verharren,

00:08:23: sondern der hat dann Spaß mit seinem Hintermann sich vielleicht

00:08:25: oder mit dem Nebenmann ganz anders zu unterhalten, als er das tun würde,

00:08:28: wenn er da jetzt ständig rausstahnen muss und das Lenkrad in der Hand hat und so weiter.

00:08:32: Und das nennen wir im Fachschaggon "Out of position".

00:08:36: Und das bedeutet, in dem Moment verlässt jetzt der Gurt seine optimale Führung,

00:08:41: hängt vielleicht nur noch über dem Oberarm oder so.

00:08:43: Und wenn dann irgendwas passiert, dann ist das eben gleich sehr, sehr dramatisch in den Folgen.

00:08:49: Und deswegen sind automatisierte Fahrzeuge in den höheren Entwicklungsstufen

00:08:55: alle mit einer sogenannten Fahrer-Zustandserfassung versehen,

00:08:59: auf Deutsch eine Kamera, die beobachtet den Fahrer.

00:09:02: Und wenn der sich jetzt aus seiner Position heraus bewegt,

00:09:06: wird ihn das Fahrzeug ebenfalls dringend ermuntern, das sein zu lassen

00:09:10: oder eben auch die Fahrt einstellen.

00:09:12: Und das halte ich auch für richtig, denn wir können jetzt sozusagen

00:09:15: mit nicht ganz perfekten System natürlich nicht in Kauf nehmen,

00:09:19: dass dann die alten Sicherheitssysteme, die alle super funktionieren,

00:09:22: plötzlich außer Kraft gesetzt werden.

00:09:25: Wie mein Auto hat eine Kamera, die mich monisort?

00:09:27: Ja, ihr Auto möglicherweise noch nicht,

00:09:29: weil es noch nicht eine höhere Entwicklungstufe der Automatisation hat.

00:09:32: Also wenn wir aber in der Automatisierungstufe viel sind,

00:09:36: das wäre die sozusagen letztlich unterhalb des Autonomen-Fahrens.

00:09:41: Also der Fahrer hat nur noch eine theoretische Funktion dort,

00:09:45: muss also im Notfall eingreifen können in der Praxis aber nicht mehr.

00:09:49: Dann wird es zwingend eine solche Kamera haben,

00:09:52: die erfasst, ob der Fahrer sich in der richtigen Position befindet.

00:09:55: Das hat übrigens aber auch den Vorteil,

00:09:57: dass ich gleichzeitig in der Müdigkeitserkennung natürlich

00:10:01: Fortschritte machen kann, die heute von den Herstellern völlig unterschiedlich

00:10:04: gehandhabt wird, denn dann sehe ich zumindest mal relativ klar,

00:10:07: ob die auch im Auf- oder zu sind.

00:10:09: Wow, welche Vorteile hat denn KI sonst noch in Bezug auf die Verkehrssicherheit?

00:10:14: So, jetzt sind wir natürlich bei der zweiten Begriffsklärung, nämlich KI.

00:10:18: Also die KI, das ist ja im Moment gerade zu ein inflationärer Begriff

00:10:22: für irgendwas, was einfach nur eine Weiterentwicklung

00:10:25: von Computerkapazität ist.

00:10:28: Im Automobilsektor haben wir das zur Zeit.

00:10:31: Also worüber wir hier reden, gerade wenn ich verschiedene Systeme,

00:10:34: Kamerasensoren oder Stereokameras, da sind,

00:10:38: da fließen gigantische Datenmengen natürlich.

00:10:41: Und eines der großen Probleme der Vergangenheit war,

00:10:44: diese Datenmengen quasi innerhalb von Millisekunden zu verschneiden

00:10:48: und dann auch noch sozusagen den Fahrzeug mitzuteilen, was es tun soll.

00:10:53: Und da ist es insbesondere eine Frage der Weiterentwicklung,

00:10:57: der Chip-Technologie, logischerweise.

00:10:59: Ob ich das hinbekomme oder nicht.

00:11:02: Also gerade in den ersten Jahren wurden da im Kofferraum der Versuchsfahrzeuge,

00:11:06: also ähnlich wie früher, die quasi bevor es PC gab,

00:11:09: gab es ja auch ganze Etagen, die mit einer geringeren Rechnerleistung,

00:11:14: also sie heute auf jedem Smartphone haben.

00:11:17: Und so ähnlich muss man sich das beim Auto auch vorstellen,

00:11:20: diese riesigen Datenmengen zutreffend zu verarbeiten,

00:11:23: brauchen wir eben Fortschritte in der Computer- und Chip-Technologie,

00:11:26: die kommen mit der Zeit.

00:11:29: Und deswegen bin ich relativ optimistisch, dass wir das hinbekommen.

00:11:33: Aber KI, so wie ich sie verstehe, ist ja was völlig anderes.

00:11:38: Da ist nämlich das Wort Intelligenz drin.

00:11:41: Und hier ist es so, dass in diesem Auto nichts passiert,

00:11:44: was der Mensch nicht an irgendeiner Stelle anpackt.

00:11:48: Das ist nur bei einem einzigen Hersteller aus USA kritischer zu sehen,

00:11:53: weil dort quasi, wie es im Fachjargon heißt,

00:11:57: over the air ständig Updates eingespielt werden.

00:12:00: Das heißt, das Fahrzeug, was ich zwei Jahre nachdem ich es gekauft habe,

00:12:04: auf der Straße befindet, hat nichts mehr mit der Typzulassung zu tun,

00:12:08: die es irgendwann mal bekommen hat,

00:12:10: weil es sich ja quasi ständig weiterentwickelt.

00:12:12: Aber auch da ist es so, dass der Datenstrom zum Werk geht,

00:12:16: im Werk in irgendwas verarbeitet wird

00:12:19: und zurück zum Auto geschickt wird, um Veränderungen vorzunehmen.

00:12:22: Das ist aus meiner Sicht immer noch keine KI.

00:12:25: KI ist, wenn das Auto etwas selber entscheiden dürfte.

00:12:29: Und deswegen ist zurzeit auch diese Dilemma-Situation,

00:12:32: von der wir hier immer reden im Zusammenhang mit autonomem Fahren,

00:12:36: ist zurzeit gar kein Problem, weil das Auto nichts selber entscheiden darf.

00:12:41: Und ehrlich gesagt ist das für mich auch ziemlich genau die Schwelle,

00:12:45: um mir Angst und Bange wird.

00:12:47: Denn KI würde ja bedeuten, also als wirkliche Intelligenz,

00:12:50: dass das Auto ständig sich selber weiterentwickelt.

00:12:53: Ständig also auch entscheidet, welche Geschwindigkeit es fahren darf,

00:12:57: auch entscheiden darf, ob wenn ich jetzt Zielzeit so und so eingebe,

00:13:01: ja, ist es das Wert jetzt dreimal so schnell zu fahren oder nicht.

00:13:05: All das könnte plötzlich diese KI selber entscheiden

00:13:08: und sich auch selber weiterentwickeln.

00:13:10: Und was ich auch problematisch finde,

00:13:13: ist plötzlich kein Menschen mehr, den ich verklagen könnte.

00:13:16: Das ist ja auch eine strafrechtliche Problematik der Produkthaftung zurzeit.

00:13:20: Wenn tatsächlich der menschliche Fahrer irgendwann nicht mehr die Haftung hätte,

00:13:25: weil er sich im automatischen Modus befand,

00:13:28: dann muss ja doch trotzdem jemand die Verantwortung tragen.

00:13:32: Das ist bisher ziemlich klar der Hersteller,

00:13:34: wenn auch komplex nachweisbar, aber er hat das Ding programmiert.

00:13:38: Wenn die KI jetzt ständig sich selber weiterentwickelt,

00:13:41: also irgendwas da reinschreibt, was kein menschlicher Verstand mehr gesehen hat,

00:13:46: dann sind wir, ehrlich gesagt, an einer Schwelle,

00:13:49: die ich auch nicht für wünschenswert halte.

00:13:51: Und ich glaube, an die Stelle sollten wir auch nie kommen.

00:13:53: Aber gehen wir noch mal zurück, Herr Brodmann,

00:13:55: zu dem Beispiel, das Sie Eingangs erwähnt haben.

00:13:57: Wir haben ja konventionelle Maßnahmen,

00:14:00: die über ein Jahrhundert fast sich entwickelt haben.

00:14:05: Nehmen wir den TÜV.

00:14:06: Ein Auto ist fahrtauglich aufgrund des Zustandes

00:14:10: wie ich den Wagen bei der technischen Überwachung,

00:14:13: bei der Untersuchung eben präsentiere.

00:14:16: Und dann muss ich es natürlich so halten,

00:14:18: wenn es dann ein Jahr später auseinanderfallen würde.

00:14:20: Dann habe ich auch was falsch gemacht.

00:14:22: Aber im Grunde ist das der Kern.

00:14:25: Hier das Beispiel, was Sie genannt haben,

00:14:27: dass es ja schon gibt, ein Fahrzeug,

00:14:29: das sich konstant erneuert, erneuert kann,

00:14:32: durch neue Aufspielungen von Software in der Software,

00:14:37: dieses Auto steuert, ist ja etwas anderes.

00:14:40: Also sind unsere System eigentlich noch zeitgemäß,

00:14:45: wenn ich mit dieser Entwicklung anschaue?

00:14:47: Also ich glaube, was nicht zeitgemäß ist,

00:14:50: ist, wie der Gesetzgeber mit diesem Thema umgeht.

00:14:53: Denn wir haben da so einen merkwürdigen Zwiespalt.

00:14:56: Einerseits versuchen wir ja, die Systeme,

00:14:58: so wie sie klassisch sind, zu retten und abzubilden.

00:15:01: Das heißt, ich muss alles Mögliche immer noch prüfen lassen.

00:15:05: Ich habe sehr komplexe Gesetze zum Thema automatisiertes Fahren,

00:15:08: was das Auto können soll, muss oder eben auch nicht darf.

00:15:12: Und auf der anderen Seite lasse ich eben diese Over-DR-Updates

00:15:15: im Grunde ständig zu,

00:15:17: weil wir ja alle so schön technologiefreundlich sein wollen.

00:15:22: Und an der Stelle muss man jetzt aber auch noch mal etwas sagen,

00:15:26: weil das liegt auch daran, dass wir glauben,

00:15:29: dass hochautomatisierte Systeme besser seien als der Mensch.

00:15:34: Und das ist jedenfalls auch das, was ich immer höre und lese.

00:15:38: Wenn die Autos erst mal automatisch fahren,

00:15:40: dann hätten wir keine Unfalle mehr.

00:15:42: Genau, weil wir dann alle gleiten mit einer Durchschnittsgeschwindigkeit,

00:15:46: mit richtigen Abstand zum Vordermann und so weiter.

00:15:49: Genau, also erst mal muss man sagen, das würde ja nur zutreffen,

00:15:53: wenn wir nur noch Autos auf der Straße hätten.

00:15:55: Wir haben in anderem Zusammenhang auch schon über Radfahrer

00:15:58: und Fußklinger gesprochen, die sind ja immer noch da

00:16:01: und würden sich eigenständig verhalten.

00:16:04: Wir würden nur noch Autos miteinander kommunizieren,

00:16:07: was in einer mittelfernen Zukunft ja auch möglich ist.

00:16:10: Im Moment haben wir Fahrzeuge, die quasi nur selbst so optimiert sind,

00:16:14: dass sie alles andere versuchen zu verstehen.

00:16:17: Wir haben in einer nächsten Entwicklungstufe

00:16:19: auch die Kommunikation zwischen den Fahrzeugen.

00:16:22: Das heißt, die Elektronik weiß sehr frühzeitig,

00:16:24: was das andere Fahrzeug vorhat,

00:16:27: was ja noch mal eine ganz andere Entwicklungstufe wäre.

00:16:30: Und da rede ich jetzt aber nicht von einem Zeitraum von zehn Jahren,

00:16:34: sondern deutlich länger.

00:16:36: Tatsächlich ein System,

00:16:37: was ja dann nicht mehr auf individuelle Entscheidungen beruhen würde.

00:16:41: Das ist tatsächlich für mich eins, was anstrebenswert wäre.

00:16:44: Dann müssen wir nur noch das Problem lösen,

00:16:47: dass natürlich massig ältere Fahrzeuge auf der Straße sind.

00:16:50: Dann habe ich der sogenannten Mischverkehr,

00:16:53: der das Ganze wieder deutlich komplizierter macht,

00:16:56: weil ich eben viele individuelle Entscheidungen habe.

00:16:59: Ich habe seit aber Fahrzeuge, die das nicht mehr können.

00:17:02: Und wie die jetzt miteinander umgehen,

00:17:04: das ist noch mal ein Sonderproblem.

00:17:06: Aber nehmen wir mal an, wir hätten irgendwann dieses System,

00:17:10: dann muss es aber eben auch fehlerfrei funktionieren.

00:17:13: Und wir müssen ja gucken, was ist eigentlich unsere Benchmark?

00:17:16: Unsere Benchmark ist doch der menschliche Fehler,

00:17:19: den wir heute haben oder nicht haben.

00:17:21: Und was die meisten Leute sich nicht klarmachen,

00:17:24: ist, dass der menschliche Fahrer im Schmidt

00:17:27: alle 300 Jahre einen Unfall mit Personenschaden verursacht.

00:17:31: Die Zahl muss man sich auf der Zunge zergehen lassen.

00:17:34: Der menschliche Fahrer verursacht alle 300 Jahre?

00:17:37: Und zwar im Durchschnitt.

00:17:39: Daran sieht man schon, was ich immer sage,

00:17:41: 10 Prozent aller Verkehrsteilnehmenden verursachen 90 Prozent der Probleme.

00:17:45: Das sind nämlich immer dieselb.

00:17:47: Deswegen kommen solche Zahlen zustande.

00:17:50: Aber das ist unsere Benchmark.

00:17:52: Und wenn ich mir die jetzt mal nehme und sage,

00:17:55: die werden automatisierte Systeme so gut sein.

00:17:58: Auch über die Nutzungsdauer des Objekts.

00:18:01: Der kommt ja nicht immer nur verbrückt neu aus die Straße,

00:18:05: sondern da geht auch mal ein Sensor kaputt,

00:18:07: der Fahrer wird es nicht reparieren wollen.

00:18:10: Oder was alles nach drei, vier Jahren an so einem Fahrzeug dran sein könnte.

00:18:14: Wo es dann schlechter funktioniert,

00:18:16: als wenn der Fahrer wirklich selber fährt.

00:18:19: Und ich mir so meinen Computer angucke,

00:18:21: der nicht mal ein Jahr fehlerfrei durchhält.

00:18:24: Der sogar groben Mist produzieren kann.

00:18:27: Vom Eingriff von außen jetzt mal gar nicht zu reden,

00:18:30: was noch ein Sonderproblem bei der Automatisation ist.

00:18:33: Weil ich die Systeme natürlich stören kann.

00:18:36: Und es gibt keine nicht-hackbaren Systeme bis heute.

00:18:39: Nicht mal im Pentagon ist das der Fall.

00:18:42: Dann produzieren wir natürlich viele neue Probleme,

00:18:46: ohne dass ich die Benchmark von 300 Jahren wirklich glaube,

00:18:51: dass wir die knacken können.

00:18:53: Deswegen glaube ich so einfach, dass wir sagen,

00:18:55: da in einer mittelfernen Zukunft

00:18:57: haben wir alle unsere Sicherheitsprobleme gelöst,

00:19:00: sehe ich das gar nicht.

00:19:01: Es gibt tatsächlich gerade einen von Barack Obama,

00:19:04: glaube auch von seiner Frau, mit produzierten Film.

00:19:07: Ich habe einen kleinen Ausschnitt gesehen,

00:19:10: die Marke über die, wenn ich spreche,

00:19:12: damit ihr uns alle im Kopf ist,

00:19:14: wenn wir über automatisiertes Fahren sprechen,

00:19:16: ist damit ihrem größten Wagen dargestellt.

00:19:19: Und wir auf einmal hunderte von diesen Autos

00:19:22: und fahren.

00:19:23: Und das zeigt so ein bisschen die ...

00:19:25: Ja, das ist ja relativ leicht möglich.

00:19:27: Wir haben ja gerade wieder den Absturz von weltweit Kausenden

00:19:31: vom Computer angesehen,

00:19:33: die irgendwie nur mit derselben Software ausgestattet waren.

00:19:36: Also, ich glaube, dass wir solche Systeme

00:19:40: unangreifbar von außen machen können,

00:19:43: das sehe ich überhaupt gar nicht.

00:19:46: Und erst recht nicht in der nächst höheren Entwicklungsstufe,

00:19:50: dass die Fahrzeuge miteinander kommunizieren.

00:19:52: Denn dann muss sich ja natürlich ein Weg haben,

00:19:55: um die Firewall aufzumachen an einer bestimmten Stelle.

00:19:58: Und das macht die ganze Sache sicherlich nicht einfacher.

00:20:01: Gibt es eigentlich jetzt schon spezifische Unfälle oder Vorfälle,

00:20:05: die bedenken hinsichtlich der Sicherheit von ...

00:20:07: ja, künstlicher Intelligenz oder intelligenten Systemen

00:20:11: im Fahrzeug wecken?

00:20:12: Also, wir alle kennen ja die Videos von automatisierten Fahrzeugen,

00:20:17: die irgendetwas nicht erkennen konnten.

00:20:19: Also, beispielsweise ein Quer auf der Fahrbahn stehenden Langhänger.

00:20:23: Weil der in dieser Software überhaupt nicht vorgesehen war.

00:20:26: Oder andere Dinge, die der Programmierer

00:20:28: vielleicht einfach nicht bedacht hat.

00:20:31: Natürlich entwickelt sich dann die Technik auch immer weiter,

00:20:34: aber es wird immer wieder auch Fälle geben,

00:20:36: die das System nicht erkennt.

00:20:38: Und dann kommen wir wieder an diesen kritischen Punkt.

00:20:41: Was wird ein menschlicher Fahrer,

00:20:43: der hier noch Rest-Eingriffmöglichkeiten hat?

00:20:46: Das ist ein Problem, das wir haben,

00:20:48: in wenigen Sekunden das Problem zu erkennen und richtig zu entscheiden.

00:20:52: Und das bleibt eine spannende Frage.

00:20:54: Und deswegen bin ich hier ziemlich knallhart der Meinung.

00:20:58: Assistiert ja, automatisiert nein,

00:21:00: bis die Systeme das wirklich richtig gut können.

00:21:03: Der Zuhörbrauchmann gibt es ja bei vollkommenem Einsatz

00:21:06: von automatisierten Systemen auch ethische Fragen.

00:21:09: Welche sind das?

00:21:11: Die ethischen Fragen stellen sich natürlich erst dann,

00:21:14: wenn die KI in dem Auto selbstständig sich weiterentwickelt

00:21:18: und also auch eigenständige Entscheidungen treffen kann.

00:21:21: Da sind wir jetzt definitiv aus meiner Sicht nicht.

00:21:24: Was dann immer wieder dargestellt wird,

00:21:27: also die Dilemma-Situation fahre ich jetzt ein einziges Kindtod

00:21:31: auf der linken Seite oder wiege ich zur anderen Seite ab.

00:21:34: Und da steht eine Fußgängergruppe oder ähnlich.

00:21:37: Da kann man beliebig konstruieren.

00:21:39: Der Punkt ist nur, dass wir natürlich auch als menschliche Fahrer

00:21:43: nicht in einem juristischen Oberseminat treffen würden,

00:21:46: sondern innerhalb weniger Millisekunden das eine oder das andere

00:21:50: oder vielleicht auch gar nichts tun.

00:21:52: Und deswegen bin ich da insofern relativ entspannt in der Praxis,

00:21:56: dass es jedenfalls nicht schlechter wird,

00:21:59: als es jetzt auch schon ist.

00:22:00: Rechtstheoretisch wirft das selbstverständlich Fragen auf,

00:22:04: weil ich ja jetzt immer ein Prozess führe, um die Frage,

00:22:08: was hätte man als optimaler Fahrer tun können.

00:22:12: Habe ich alles getan, was getan werden konnte?

00:22:15: Habe ich ein Fehler gemacht oder, oder, oder?

00:22:18: Was ich eben beinahe sich selbst weiterentwickelnden KI

00:22:21: so einfach nicht mehr machen kann.

00:22:23: Aber wie gesagt, an der Stelle sind wir aus meiner Sicht noch lange nicht,

00:22:27: um was die Systeme im Moment machen würden.

00:22:29: In all diesen Fällen ist eine Vollbremsung.

00:22:32: Und nicht etwa die Frage, lenke ich nach links oder lenke ich nach rechts.

00:22:36: Welche Rolle hätte denn idealerweise,

00:22:39: das ist mir noch nicht so ganz klar,

00:22:41: als wäre es bei einer der ersten Jahre

00:22:43: bei Einsatz eines vollkommen automatisierten Systems.

00:22:47: Weil wenn ich sie richtig verstehe,

00:22:50: müssen wir auch bei Einsatz eines vollautomatisierten Systems,

00:22:54: sogar bei Einsatz eines mit anderen Fahrzeugen kommunizierenden Systems,

00:22:58: immer auch weiterhin zumindest die theoretische Möglichkeit erwegen,

00:23:03: dass irgendetwas falsch läuft.

00:23:05: Also die Vorstellung, die mir auch tatsächlich in der Werbung

00:23:10: einmal vermittelt wird.

00:23:12: Ich dreh meinen Sitz einfach nicht in Fahrbahnrichtung,

00:23:16: sondern als Fahrer mal um und kommuniziere da nett mit anderen

00:23:20: oder arbeite mit meinem Laptop oder sonst was.

00:23:23: Die ist nicht ihre, oder?

00:23:25: Also ich kann nicht in die Zukunft gucken, weil ich ...

00:23:28: Wir haben ja eben schon darüber gesprochen,

00:23:30: dass vieles in der Optimierung der automatisierten Systeme

00:23:33: auch von der Komplexität der Aufgabe,

00:23:35: aber letztlich eben auch von der Computerkapazität abhängig ist,

00:23:39: die ich zur Verfügung habe.

00:23:41: Und da haben wir ja noch Riesenentwicklungsmöglichkeiten

00:23:44: in den nächsten Jahren.

00:23:46: Auch wenn ich immer wieder lese von sogenannten Quantencomputern,

00:23:50: die also ganz andere Datenmengen verarbeiten können,

00:23:54: als das heute der Fall ist.

00:23:56: Inwieweit das und in welcher Geschwindigkeit

00:23:59: in die Fahrzeugtechnik einzughalten kann.

00:24:01: Dafür bin ich auch natürlich nicht genug Computerexperte,

00:24:05: aber das ist die Voraussetzung dafür, ein System zu schaffen,

00:24:09: was immer die zumindest nicht schlechterer Entscheidung treffen kann

00:24:14: als der Mensch das tut.

00:24:15: Denn das wäre ja jetzt mal unsere Mindestvoraussetzung.

00:24:18: Und das auch selber erkennt, wenn es irgendeine Fehlfunktion hat.

00:24:22: Und das nicht mehr dem Menschen überlässt.

00:24:25: Denn eins ist klar, der Mensch ist von seiner ganzen Psychologie her

00:24:29: nicht geeignet, ein redundantes System zu sein,

00:24:32: was man nur dann aktiviert, wenn es ein Problem gibt.

00:24:35: Umgekehrt funktioniert das sehr gut.

00:24:37: Das sind assistierte Systeme, macht der Menschen Fehler,

00:24:39: kann das System einspringen.

00:24:41: Aber nicht andersrum, das kann der Mensch nicht.

00:24:43: Und insofern muss immer ganz klar sein, es fährt der Mensch

00:24:47: oder es fährt das System.

00:24:48: Und das kann es im Moment noch nicht gut genug.

00:24:51: Und deswegen müssen wir warten,

00:24:53: ob sich das in diese Richtung weiterentwickelt.

00:24:55: Wie kann man überhaupt solche Systeme, Verkehrs- und Sicherheitstechnik,

00:24:59: so testen, dass man irgendwann sagen kann,

00:25:01: ja, okay, wir sind bereit dafür, wir gehen diesen Weg?

00:25:04: Ja, das ist, was ich seit Jahren sage,

00:25:07: natürlich ist kein Hersteller, schon gar nicht die Premiumhersteller,

00:25:11: daran interessiert, dass mit ihren Autos

00:25:13: schwere Unfälle im automatisierten Modus passieren.

00:25:16: Das ist ja auch ein kommunikativer Gau,

00:25:19: den man gerne verhindern möchte.

00:25:20: Infolgedessen fahren die natürlich umfangreiche Tests rein.

00:25:25: Und die Forschung außerhalb dieser Unternehmen

00:25:28: hat aber leider kein Zugriff auf die Fehlerprotokolle.

00:25:31: Deswegen kann ich nicht wissen, wie gut diese Systeme sind,

00:25:34: wenn sie auf die Straße kommen.

00:25:36: Und 100 Prozentig sind sie eben bisher noch nie gewesen.

00:25:40: Und wogegen ich mich wäre, ist, dass dann irgendwann

00:25:43: einem Punkt X Fahrzeuge auf der Straße sind,

00:25:46: wo wir alle als menschliche Versuchsfahrer agieren.

00:25:49: So nach dem Motto "But, so eine Restfehlerquote haben wir."

00:25:53: Und die schleift sich jetzt da schon im Laufe des Serienprozesses aus.

00:25:57: Das kann es in dieser Frage nicht geben.

00:26:01: Bedauerlicherweise ist das aber jetzt schon Standard.

00:26:03: Was kann der Konsument tun, Herr Bockmann,

00:26:06: um der vor der Frage steht,

00:26:08: welches System nutze ich nun,

00:26:11: welche Parameter hat der zu sagen, okay, ich vertraue

00:26:14: dieses oder jene System, wenn er einfach an die Entwicklung

00:26:18: dieser Systeme denkt und denkt, ich möchte ein möglichst

00:26:21: sicheres oder möglichst umfassend modernes und sicheres System kaufen?

00:26:27: Also ich tue mich ein bisschen schwer damit,

00:26:29: weil mir viel gerade ein, wie ich immer wieder in Unterhaltung

00:26:33: sagt mir jemand, also das ist alles so schön

00:26:35: mit seinem neuen Auto oder fährt auf der Autobahn,

00:26:38: macht den Tempomat auf 130, sagen wir mal,

00:26:40: und kann dann völlig entspannt stundenlang rollen.

00:26:43: Aber das ist eben, also das vordergründig hört sich das ziemlich sicher an.

00:26:48: Aber das ist eben genau das Beispiel, was ich vorhin meinte.

00:26:51: Das ist so eine Scheinsicherheit

00:26:53: und man schaltet dann letztlich ab aus diesen komplexen Systemen,

00:26:57: wird dann aber plötzlich auch wieder zurück in das System geholt.

00:27:00: Man muss klar sagen, wir haben in Deutschland im Moment

00:27:04: nur zwei Hersteller, die sogenannte Stufe Drei Fahrzeuge anbieten.

00:27:09: Das sind automatisierte Systeme, in denen der Mensch

00:27:12: tändig quasi als Rückfallposition vorhanden sein muss

00:27:18: und die auch sobald irgendwas kritisch wird,

00:27:20: die Fahraufgabe an den Menden zurückgeben.

00:27:22: Ist das die entwickelste Stufe?

00:27:24: Das ist zur Zeit die entwickelste Stufe.

00:27:26: Wer ist das, wenn man ja keine Werbung, aber das können wir sagen?

00:27:29: Nein, ich kann das nicht sagen, also grundsätzlich keine Marken.

00:27:33: Keine Marken, der Tesla eben nicht.

00:27:35: Der Tesla behauptet von sich, dass er automatisiert fährt

00:27:39: oder automatisch fährt oder sogar autonom fährt.

00:27:43: Und tatsächlich ist er aber ein Stufe Zwei Fahrzeug,

00:27:46: das heißt ein assistiertes Fahrzeug.

00:27:47: Sind das deutsche Marken? - Sind deutsche Marken.

00:27:50: Okay. - Sind deutsche Marken.

00:27:51: Wenn man damit mal so fahren ist, stellt man fest,

00:27:54: die schalten relativ häufig ab, weil der Ingenieur eben sagt,

00:27:57: also mit meinem Auto passiert jedenfalls nichts im automatisierten Modus,

00:28:01: was es nicht versteht.

00:28:03: Das verstehe ich auch.

00:28:04: Aber das ist natürlich ein Hin und Her,

00:28:06: was der Mensch schwer verarbeiten kann.

00:28:08: Also ich glaube, wir haben noch ...

00:28:09: Also die Werbesprache und das, was Marketing daraus macht

00:28:14: und das, was tatsächlich das Fahrzeug kann

00:28:17: und auch an Zusatzsicherheit bietet,

00:28:19: das geht im Moment noch sehr, sehr, sehr weit auseinander.

00:28:24: Und ich ermahne auch einfach alle Fahrzeughersteller,

00:28:28: dass sie diese Stufe, wo es sozusagen ständig

00:28:32: die Rückfallposition Mensch braucht,

00:28:34: dass sie die nicht auf den Markt bringen

00:28:37: oder möglichst schnell überspringen.

00:28:38: Wen wir dennoch irgendwann komplett auf manuelles Fahren verzichten?

00:28:43: Also ich persönlich habe einige Wetten laufen,

00:28:47: dass ich das zu meinen Lebzeiten nicht mehr erlebe.

00:28:50: Also das heißt, wenn ich die Wette verliere,

00:28:53: muss ich sie auch nicht einlösen.

00:28:54: Nee, umgekehrt.

00:28:55: Wenn ich sie gewinne, kriege ich nichts mehr.

00:28:57: (Lachen)

00:28:59: Ich wünsche mir ein möglichst langes Leben

00:29:02: und schauen, was die Zukunft bringt.

00:29:05: Herr Bauchmann, herzlichen Dank für dieses Gespräch.

00:29:07: Sehr gerne.

00:29:08: Die Björn Steigerstiftung, der Podcast.