Forschende der Technischen Universität München (TUM) haben eine nach ethischen Gesichtspunkten arbeitende Software für autonomes Fahren entwickelt. Sie gilt als der erste Algorithmus, der die 20 Ethik-Empfehlungen der EU-Kommission berücksichtigt und so deutlich differenzierter abgewogene Entscheidungen trifft als bisherige Algorithmen.
Die im Fachjournal „Nature Machine Intelligence“ veröffentlichte Forschungsarbeit entstand in Zusammenarbeit der Lehrstühle für Fahrzeugtechnik und für Wirtschaftsethik am Institute for Ethics in Artificial Intelligence (IEAI) der TUM.
Ethische Fragen spielen wichtige Rolle
Der ethische Algorithmus handelt nicht nach der Maxime entweder/oder, sondern teilt das Risiko fair auf. Rund 2000 Szenarien mit kritischen Situationen wurden dabei getestet, verteilt auf unterschiedliche Straßentypen und Gebiete wie Europa, die USA und China.
„Der Straßenverkehr lässt sich nicht in schwarz und weiß einteilen, sondern bedarf auch der Betrachtung der unzähligen Graustufen“, erklärt Maximilian Geißlinger, Wissenschaftler am Lehrstuhl für Fahrzeugtechnik. „Unser Algorithmus wägt unterschiedliche Risiken ab und trifft aus tausenden möglichen Verhaltensweisen eine ethische Entscheidung – und das in Sekundenbruchteilen.“
Mehr Optionen in kritischen Situationen
Die ethischen Rahmenbedingungen, an denen sich die Risikobewertung der Software orientiert, hat eine Expert*innenrunde im Auftrag der EU-Kommission 2020 in einem Empfehlungsschreiben definiert. Es beinhaltet Grundsätze wie den Schutz schwächerer Verkehrsteilnehmender und die Aufteilung von Risiko im gesamten Straßenverkehr.
Damit diese Regeln in mathematische Berechnungen übertragen werden konnten, teilte das Forschungsteam Fahrzeuge und Personen, die sich im Verkehr bewegen, anhand des von ihnen ausgehenden Risikos für andere und anhand ihrer unterschiedlichen Risikobereitschaft ein.
Ein Lastwagen beispielsweise kann anderen Verkehrsteilnehmenden großen Schaden zuführen, während er selbst in vielen Szenarien nur in kleinerem Maße beschädigt wird. Bei einem Fahrrad ist es umgekehrt.
Im nächsten Schritt wurde dem Algorithmus vorgegeben, in unterschiedlichen Verkehrssituationen ein maximal akzeptables Risiko nicht zu überschreiten. Außerdem kalkulierte das Forschungsteam Variablen ein, die aus der Verantwortung der Verkehrsteilnehmenden resultieren, beispielsweise wie sie sich an Verkehrsregeln halten.
Mehr Freiheitsgrade bei weniger Risiko für alle
Bisherige Ansätze behandelten kritische Situationen auf der Straße nur mit einer geringen Anzahl möglicher Manöver. Im Zweifel blieb das Fahrzeug einfach stehen. Durch die nun in den Code eingebrachte Risikobewertung entstehen mehr Freiheitsgrade bei weniger Risiko für alle.
Anhand eines Beispiels wird der Ansatz deutlich: Ein autonomes Fahrzeug möchte ein Fahrrad überholen, auf der Gegenspur kommt ihm ein Lkw entgegen. Der Algorithmus zieht nun alle vorhandenen Daten über die Umgebung und die einzelnen Teilnehmenden zu Rate. Lässt sich das Rad überholen, ohne in die Gegenspur zu fahren, und lässt sich gleichzeitig genug Abstand zum Fahrrad halten? Welches Risiko besteht für welches Fahrzeug und welches Risiko bedeuten diese Fahrzeuge für einen selbst?
Im Zweifel wird das autonome Gefährt mit der neuen Software immer warten, bis das Risiko für alle akzeptabel ist. Aggressive Manöver werden vermieden, gleichzeitig fällt das selbstständig fahrende Fahrzeug nicht eine Schockstarre und bremst abrupt ab. Ja und Nein spielen keine Rolle, es findet eine Abwägung statt, die viele Optionen beinhaltet.
Risikoethik als zentraler Ausgangspunkt
„Bislang wurden häufig traditionelle ethische Denkmuster gewählt, um Entscheidungen autonomer Fahrzeuge zu begründen. Das führte letztlich in eine Sackgasse, weil in vielen Verkehrssituationen nichts anderes übrig blieb, als ein ethisches Prinzip zu verletzen“, erläutert Franziska Poszler, Wissenschaftlerin am Lehrstuhl für Wirtschaftsethik der TUM. „Wir dagegen betrachten den Verkehr mit der Risikoethik als zentralem Ausgangspunkt. Das ermöglicht uns, mit Wahrscheinlichkeiten zu arbeiten und differenzierter abzuwägen.“
Die Forschenden betonen, dass auch Algorithmen, die nach der Risikoethik handeln, zwar jegliche mögliche Situation abdecken und eine Entscheidung auf Basis von ethischen Prinzipien treffen, aber dennoch keinen unfallfreien Straßenverkehr garantieren können. Künftig müssten zudem weitere Differenzierungen berücksichtigt werden, etwa kulturelle Unterschiede in ethischen Entscheidungen.
Software nun im Straßenverkehr im Test
Der an der TUM entwickelte Algorithmus wurde bislang in Simulationen validiert. Mit dem Forschungsfahrzeug Edgar wird die Software künftig auch auf der Straße getestet.
Der Code, in den die Erkenntnisse der Forschungsarbeit fließen, steht Open Source zur Verfügung. Damit will die TUM zur Entwicklung praktikabler und sicherer autonomer Fahrzeuge beitragen. (jk)
