Autopilot und das Dilemma: Fahrer oder Fußgänger töten?

Autonome Autos sind längst keine Science-Fiction mehr: Auf den Straßen tauchen Fahrzeuge mit Autopilot-Modus auf, die ohne menschliches Eingreifen fahren können. Autofans interessieren sich vorerst aber stärker für klassische Werte – Tempo, Leistung, Komfort. Mit Begeisterung vergleichen sie zum Beispiel deutsche Supersedans wie BMW M5 F90 und Mercedes-AMG E63 S anhand ihrer Daten. Doch mit dem Autopiloten rückt ein ganz anderes Thema in den Vordergrund – Ethik und Sicherheit. Was soll ein Auto tun, wenn ein Unfall unvermeidbar ist?

Das ist längst keine theoretische Frage aus Lehrbüchern mehr, sondern ein reales Problem auf der Straße. Stellen wir uns die Situation vor: Ein selbstfahrendes Auto rast dahin, und plötzlich erscheint vor ihm auf einem Zebrastreifen eine Menschengruppe. Zum Bremsen ist es zu spät. Es gibt zwei Möglichkeiten: ausweichen und in eine Wand prallen (und den Fahrer opfern) oder geradeaus weiterfahren und die Fußgänger erfassen. Der KI-Algorithmus ist auf eine bestimmte Entscheidung programmiert – und von dieser Entscheidung hängen Menschenleben ab.

Philosophen nennen eine solche tragische Wahl das „Trolley-Problem“. Früher war das ein rein gedankliches Experiment: Soll man eine außer Kontrolle geratene Straßenbahn auf ein anderes Gleis lenken, um fünf Menschen zu retten – um den Preis eines einzelnen Lebens? Heute steht eine ähnliche Dilemma-Situation der künstlichen Intelligenz auf der Straße bevor – und ihre Entscheidungen werden reale Folgen haben.

• Den Passagier retten. Weiterfahren und den Fahrer schützen, trotz des Risikos für die Gruppe der Fußgänger.
• Die Fußgänger retten. Das Auto auf ein Hindernis oder den Seitenstreifen lenken und das Leben der Person im Fahrzeug opfern.
• Nicht bewusst wählen. Keinen speziellen Auswahl-Algorithmus nutzen – also Schadensminimierung ohne gezielte Priorisierung hinterlegen und die Ereignisse faktisch „ungeplant“ ablaufen lassen.

Manche mögen einwenden, künstliche Intelligenz werde so klug sein, dass sie immer einen dritten, sicheren Ausweg findet. Das ist jedoch eher ein Mythos. In Wirklichkeit können selbst modernste Sensoren und Programme die Gesetze der Physik nicht außer Kraft setzen und alle Risiken ausschließen. Kritische Situationen werden trotzdem auftreten. Früher oder später kann die Maschine also vor der Wahl stehen, wen sie um den Preis eines anderen Lebens schützt.

Die Menschheit hat bis heute keine единige richtige Antwort auf dieses Dilemma gefunden. Dennoch liefern soziologische Studien einen interessanten Blickwinkel. Umfragen zeigen: Die Mehrheit der Befragten ist einverstanden, dass ein autonomes Auto in einer Extremsituation den Passagier opfern sollte, um eine Gruppe Menschen zu retten. Doch dieselben Menschen geben zu, dass sie nicht in einem Auto fahren möchten, das sie im Notfall bewusst zugunsten fremder Leben opfert. Dieses Paradox kann zu einer Hürde für die Einführung von Robotaxis und autonomen Fahrzeugen auf den Straßen werden.

Ein aussagekräftiges Ergebnis einer Studie zur „Autopilot-Dilemma“:

Wie wir sehen, wünscht sich die Gesellschaft одновременно, dass Roboter-Fahrer möglichst viele Menschen retten, und will dabei gleichzeitig nicht das eigene Risiko erhöhen. Diese Kluft zwischen moralischen und persönlichen Interessen schafft ein Dilemma für Hersteller und Regulierer. Denn egal, wie man den Algorithmus programmiert – die Entscheidung bleibt umstritten und kann Empörung auslösen.

Wer kommt ins Gefängnis, wenn ein selbstfahrendes Auto einen Unfall verursacht?

Wenn ein Auto im Autopilot-Modus tatsächlich einen Unfall mit tödlichen Folgen verursacht – wen bestraft man dann? Diese Frage ist nicht weniger komplex als die moralische Wahl. Die ersten Warnsignale gab es bereits. So überfuhr 2018 ein Testfahrzeug von Uber einen Fußgänger tödlich; auch andere tödliche Unfälle mit Tesla im Autopilot-Modus sind bekannt. Solche Fälle, in denen ein Computer lenkt, stellen das traditionelle Prinzip infrage, nach dem die gesamte Schuld dem Fahrer zugeschrieben wird.

In einer Situation mit einem „Roboter-Fahrer“ sind verschiedene Ansätze zur Bestimmung des Schuldigen möglich. Schauen wir uns die wichtigsten Szenarien an:

1. Der Fahrzeughalter (Passagier). Logik: Er saß im Innenraum und hat den Autopilot-Modus eingeschaltet. Möglicherweise hätte der Mensch die Fahrt überwachen und eingreifen müssen – und trägt daher einen Anteil der Schuld wegen Untätigkeit.
2. Der Entwickler der Software (des Algorithmus). Schließlich haben Programmierer das Verhaltensmodell festgelegt, das zur Tragödie führte. Sollten Ingenieure strafrechtlich für die Folgen von Entscheidungen ihres Codes haften?
3. Der Fahrzeughersteller. Das Unternehmen, das das selbstfahrende Auto gebaut hat, hat möglicherweise nicht alle Risiken berücksichtigt oder bei Sensorik gespart. Verantwortlich kann der Hersteller (vertreten durch die Geschäftsleitung) als juristische Person sein – etwa durch Klagen und Geldstrafen.

Bislang gibt es dafür keine klare gesetzliche Regel. In den meisten Ländern, in denen autonome Fahrzeuge getestet werden, liegt die Verantwortung bei der Person am Steuer. Denn die heutigen Autopilot-Systeme (Level 2–3) verlangen, dass der Fahrer aufmerksam bleibt. So erkennen Gerichte in Fällen mit Tesla meist den Fahrer als виновним an, der die Fähigkeiten des Autopiloten überschätzt und nicht eingegriffen hat, als es nötig war.

Mit dem Auftauchen vollständig autonomer Fahrzeuge (Level 4–5) entsteht jedoch логично der Bedarf, die Schuld auf die Entwickler der Technologie zu verlagern. In Deutschland hat die nationale Ethik-Kommission für automatisiertes und vernetztes Fahren bereits 2017 festgehalten: Wenn der Mensch das Fahrzeug nicht mehr kontrolliert, trägt nicht der Passagier die Verantwortung für dessen Handlungen, sondern der Hersteller oder der Systembetreiber. Einige Autohersteller sind selbst bereit, eine solche Verantwortung zu übernehmen – so hat Volvo öffentlich zugesagt, die volle Verantwortung zu tragen, wenn seine Fahrzeuge im autonomen Modus unterwegs sind.

Die Verlagerung der Schuld auf das Unternehmen hat Vor- und Nachteile. Einerseits werden Besitzer dem Autopiloten eher vertrauen, wenn sie wissen, dass man sie im Ernstfall nicht zum „Sündenbock“ macht. Andererseits fürchten Hersteller, die gesamte Schuld zu übernehmen, denn das droht mit millionenschweren Klagen und sogar strafrechtlicher Verantwortung für Führungskräfte. Möglicherweise werden spezielle Versicherungspolicen oder rechtliche ограничения eingeführt, um diese Risiken auszubalancieren.

Trotz all dieser Unklarheiten bleiben die Technologien des autonomen Fahrens nicht stehen. Neue Fahrzeugmodelle erhalten immer intelligentere „Gehirne“. So ist der elektrische Crossover Volkswagen ID.4 mit dem Travel Assist-Paket für teilautonomes Fahren ausgestattet, und Fahrer dieses Modells können Komfort und Alltagstauglichkeit erhöhen, indem sie verschiedene Zubehörteile für Volkswagen ID.4 installieren. Vollautonomes Fahren (Level 5) bleibt vorerst Zukunftsmusik. Und daher werden die Diskussionen über moralische Algorithmen und juristische Verantwortung weitergehen – die Gesellschaft braucht Zeit, um sich zu einigen.

Die moralische Dilemma des Autopiloten hat also пока noch keine klare Lösung. Soll man Maschinen darauf programmieren, die Mehrheit zu retten – auf Kosten des Passagiers – oder den eigenen Fahrer unter allen Umständen zu schützen? Wen bestraft man für Fehler künstlicher Intelligenz – Ingenieure, Besitzer oder vielleicht niemanden? Über diese Fragen denken Philosophen, Juristen und die Hersteller selbst nach. Vielleicht придется schon bald, etablierte Prinzipien von Ethik und Verantwortung auf den Straßen zu überdenken. Denn wenn ein Computer am Steuer sitzt, erhalten sowohl Entscheidungen als auch Schuld eine völlig neue Bedeutung – eine, mit der die Menschheit erst noch lernen muss zu leben.