Bundeskabinett beschließt Ethik-Regeln für automatisiertes Fahren

[HWL News Bot]

Auf die vom Bundestag beschlossenen Gesetzesänderungen für mehr Rechtssicherheit beim automatiserten Fahren sollen weitere Änderungen folgen, um ethischen Ansprüchen gerecht zu werden. Entsprechende Maßnahmen wurden nun vom Bundeskabinett beschlossen. Das Ziel sei „die konsequente Anpassung des deutschen Straßenverkehrsrechts an den technologischen Fortschritt...

... weiterlesen

 

[DragonTear]

Klingt ja insgesamt in ordnung und nicht fortschrittsbremsend.

Dazu heißt es: In unausweichlichen Unfallsituationen ist jede Qualifizierung von Menschen nach persönlichen Merkmalen unzulässig. Ein Kleinkind soll den gleichen Schutz wie ein Rentner genießen, ein Rollstuhlfahrer den gleichen wie ein Fahrradfahrer. Hier bleibt aber abzuwarten, nach welchen Kriterien das System die Reaktion auswählen soll.

Damit erleichtern sie die Arbeit der Entwickler sogar ganz schön, denn in der Praxis wird es nie und nimmer dazu kommen dass zwei Entscheidungen, exakt 50.000(000)% Todeswahrscheinlichkeit bekommen. Entsprechend können Entscheidungen klar gefällt werden.

 

[Shevchen]

"In unausweichlichen Unfallsituationen ist jede Qualifizierung von Menschen nach persönlichen Merkmalen unzulässig."

Das steht ja auch im GG.

 

[Elmario]

Dass eine Software aber grundsätzlich ein festes Handlungsschema verfolgt und es somit so oder so, je nach Gestaltung des Codes, unvermeidlich zu einer indirekten Bevorzugung kommen wird (z.B. stehen am Zebrastreifen eher Rentner und Kinder), lässt diese Idee außer Acht. Kein Wunder, stammt sie doch von Leuten für die das Internet Neuland ist.

Auch kann ich schon zweifelsfrei absehen, dass sich die OberVIPs dieses Staates wenige Jahre nach Einführung der Technik auf Whitelists setzen werden...

 

[joepc]

Eine sinnvolle "Qualifizierung nach persönlichen Merkmalen" ist auch gar nicht möglich.
Wie soll das gehen? Welche Kriterien will man da auch anwenden?

 

[King Loui]

Das pikante Detail was allerdings nicht erwähnt wurde ist die Anzahl an beteiligten Personen. Denn unser Grundgesetz kann diese Problematik ob der Computer in die Grundschulklasse oder die einsame Oma rast nicht auflösen. Wie man einer Maschine dieses Dilemma beibringen will erschließt sich mir nicht, insofern stimme ich Elmario dahingehend zu, ein Computer wird die logische Wahl treffen, aufgrund seiner Programmierung.
Praktisch wird man sich damit behelfen müssen, dass man den Grundsatz, dass jedes Menschenleben den gleichen Wert, hat ein wenig dehnt.

 

[Scrush]

was passiert wenn ein Kind 20 meter weit weg steht und der Bremsweg Könnte ausreichen oder aber ein rentner der 10 meter weit wegsteht und der bremsweg reicht definitiv nicht aber das kind überlebt somit sicher

gut, vermutlich könnte ein mensch diese entscheidung nicht so schnell treffen und handelt im affekt aber trotzdem muss das auto ja eine entschiedung treffen^^

 

[rv73566]

Da fällt mir ein Bericht von vor einigen Tagen ein, wo ein mit Aufklebern verfremdetes Stopp-Schild (per Auge aber noch gut als solches erkennbar) vom System als amerikanisches "Mindest-Geschwindigkeit 45"-Schild erkannt wurde.
Von daher scheint es noch ein weiter Weg zu sein bis die Systeme Rentner und Kinder unterscheiden können

 

[DragonTear]

was passiert wenn ein Kind 20 meter weit weg steht und der Bremsweg Könnte ausreichen oder aber ein rentner der 10 meter weit wegsteht und der bremsweg reicht definitiv nicht aber das kind überlebt somit sicher

gut, vermutlich könnte ein mensch diese entscheidung nicht so schnell treffen und handelt im affekt aber trotzdem muss das auto ja eine entschiedung treffen^^

Grade in deinem Beispiel, vereinfacht diese Ethikkommission die Arbeit ganz erheblich. Renter und Kind sind gleichwertig, also riskiert das System ohne zweifel das Leben des Kindes da die Gesamtwahrscheinlichkeit dass Renter UND Kind überleben, in dem Fall höher ist.

Nach dem Schema der gesamtwahrscheinlichkeit (also wann bleiben am ehesten, am meisten Menschen am leben), kann man auch das Problem mit mehreren Personen auf einer Seite lösen.

Wahrscheinlich dient das Ganze nur der Autoindustrie, um diese vor Schadenersatzforderungen zu schützen.

Auch gut so. Wenn du einen Unfall, nicht aus Fahrlässigkeit baust, also aufgrund höherer Gewalt, wirst du ja auch nicht verklagt.
Wenn es keinen Rechtlichen Rahmen gibt, werden sich die Anwaltsgeier aber sofort auf die Unternehmen stürzen und das bei jeder Kleinigkeit.


@Elmario
Ja, ein "festes" Handlungsschma (wobei eher ein sogenannter Entscheidungsbaum). Aber ist das nicht dennoch viel besser als die unkontrolierte Panikreaktion eines Menschens?

 

[Xenomystus]

Also haben die jetzt das beschlossen, was eh im Grundgesetz steht. Dass die Fahrer entscheiden dürfen, ob Daten weitergegeben werden, finde ich problematisch (je nach Daten) denn die Kommunikation unter den Autos und das Selbstlernen der Autos dürfte doch auf diesen Daten beruhen oder nicht? Wer damit nicht einverstanden ist kann sich halt kein selbstfahrendes Auto kaufen. Für die Verkehrssicherheit halte ich die Weitergabe der Daten aber für wichtig...

 

[Scrush]

und dann versagen die bremsen und das kind stirbt doch.

dann gehts aber rund

 

[Robo]

Egal was man macht, ein Restrisiko wird es immer geben da das grösste Problem der Mensch ist und das unabhängig davon, ob am Steuer, auf dem Fahrrad, oder zu Fuss...

Die Ethik-Regeln erinnern mich an "I ROBOT" und den Satz, dass ein Mensch anders entschieden hätte.

 

[majus]

"In unausweichlichen Unfallsituationen ist jede Qualifizierung von Menschen nach persönlichen Merkmalen unzulässig"

So ein Käse wie soll das gehen..

Es wird so oder so darauf hinaus laufen, dass das Leben der Insassen am Ende die höchste Priorität hat. Nichts anderes macht jeder Mensch automatisch wenn er in Sekundenbruchteilen reagieren soll und das ist nur logisch. Wer kauft ein Auto, dass die Insassen bewusst gegen den Baum fährt anstatt den Radfahrer mitzunehemen.. und wenn man so schnell bewusst reagieren könnte würden die 99% am Ende das gleiche machen.

 

[DragonTear]

"In unausweichlichen Unfallsituationen ist jede Qualifizierung von Menschen nach persönlichen Merkmalen unzulässig"

So ein Käse wie soll das gehen..

Es wird so oder so darauf hinaus laufen, dass das Leben der Insassen am Ende die höchste Priorität hat. Nichts anderes macht jeder Mensch automatisch wenn er in Sekundenbruchteilen reagieren soll und das ist nur logisch. Wer kauft ein Auto, dass die Insassen bewusst gegen den Baum fährt anstatt den Radfahrer mitzunehemen.. und wenn man so schnell bewusst reagieren könnte würden die 99% am Ende das gleiche machen.

Also ich gehe stark davon aus, dass man Normen und Tests aufstellen wird, die genau sowas prüfen. Dies erzwingt entweder dass nur solche Autos verkauft werden dürfen, die dieser Norm entsprechen, oder sonst der Autohersteller die volle Verantwortung für Todesfälle hat (weswegen er freiwllig die Norm erfüllen wird).
Eine absolute Priorisierung des eigenen Fahrzeugsinsassen ist auch jetzt schon bei normalen Autos nicht erlaubt!

Wie auch immer, die Praxisrelevanz von all dem hier ist ziemlich gering. Solch unausweichliche Fälle kommen extremst selten vor. Zudem können wir davon ausgehen dass die meiste Zeit doch wieder menschlich gesteuerte Fahrzeuge, die Unfallverursacher sein werden. Das war auch bei dem Todesfall im Tesla der Fall (der LKW hätte dort nicht kreuzen dürfen).

 

[Robo]

Wer kauft ein Auto, dass die Insassen bewusst gegen den Baum fährt anstatt den Radfahrer mitzunehemen...

Deswegen wird "Ethik Programmierung" immer ein Geheimnis bleiben - es wird natürlich Indizien geben, aber mehr nicht.

und wenn man so schnell bewusst reagieren könnte würden die 99% am Ende das gleiche machen.

Selbsterhaltungstrieb - vor allem wenn keine Zeit zum überlegen da ist.

 

[monosurround]

Ob schon mal jemand daran gedacht hat, die letzten Widersprüche einer solchen ifttt einfach einem Zufallsgenerator zu überlassen.... wäre wohl die einfachste und beste Lösung. ;P

 

[Holzlenkrad]

und dann versagen die bremsen und das kind stirbt doch.

dann gehts aber rund

Und wenn der Mensch am Steuer sitzt, dann können die Bremsen auch versagen.
Viel wahrscheinlicher ist aber, dass der Mensch gar nicht rechtzeitig reagiert und ungebremst ins Kind fährt.

Deswegen finde ich auch ein bisschen befremdlich, dass man immer theoretische technische Probleme in den Vordergrund stellt. Fakt ist, dass der Mensch als Fahrer noch viel anfälliger ist, irgendwelche Fehler zu machen.

 

[DragonTear]

Ob schon mal jemand daran gedacht hat, die letzten Widersprüche einer solchen ifttt einfach einem Zufallsgenerator zu überlassen.... wäre wohl die einfachste und beste Lösung. ;P

Ist nicht nötig denn in der Praxis werden nie zwei Wahrscheinlichkeiten auf grade 50.000% kommen.

Deswegen finde ich auch ein bisschen befremdlich, dass man immer theoretische technische Probleme in den Vordergrund stellt. Fakt ist, dass der Mensch als Fahrer noch viel anfälliger ist, irgendwelche Fehler zu machen.

Leider ist das so... Jeder glaubt "ICH würde nie einen Fehler machen in so einem Fall!" und will darum die Kontrolle nicht abgeben.
Lieber selbst Mist bauen als dass möglicherweise etwas anderes für einen übernimmt

 

[Tresel]

Es wird so oder so darauf hinaus laufen, dass das Leben der Insassen am Ende die höchste Priorität hat. Nichts anderes macht jeder Mensch automatisch wenn er in Sekundenbruchteilen reagieren soll und das ist nur logisch.

Nachdem ich immer wieder mitbekomme wie viele Autounfälle aufgrund von Ausweichreaktionen entstehen, gerade bei Wildschaden, so denke ich doch das der Reflex des Autofahrers teilweise willkürlich ist und nicht auf irgendetwas hinarbeitet. Hier nehmen mehr Leute den Baum und schwere Verletzungen mit, anstatt mit Bremsen draufzuhalten.
Ist aber nur eine subjektive Meinung/gefühlte Einschätzung.

 

[King Loui]

Das kann ich so bestätigen, in meiner Heimat kommt es zu bestimmten Jahreszeiten täglich zu Wildunfällen mit Schwarz- oder Rotwild. Und zu viele reißen aus Panik den Lenker rum, selbstverständlich auch noch in den Gegenverkehr, und bezahlen das unter anderem auch mit dem Leben. Die Schwierigkeit ist, dass richtiges Bremsen, mit dem eigenen Fahrzeug, gelernt werden muss. Denn nur erlerntes Verhalten kann das Gehirn in einer solchen Situation rechtzeitig abrufen und umsetzten. Reduzierte Geschwindigkeit und jährliches Fahrsicherheitstraining beim ADAC helfen da sehr.
Die abstrakte Abwägung dauert viel zu lange und die einsetzende Panik übermannt auch jede Logik, deshalb kommt es viel zu oft zu dieser willkürlichen Übersteuerung des Fahrzeugs.

 

[Shevchen]

Das kann ich so bestätigen, in meiner Heimat kommt es zu bestimmten Jahreszeiten täglich zu Wildunfällen mit Schwarz- oder Rotwild. Und zu viele reißen aus Panik den Lenker rum, selbstverständlich auch noch in den Gegenverkehr, und bezahlen das unter anderem auch mit dem Leben. Die Schwierigkeit ist, dass richtiges Bremsen, mit dem eigenen Fahrzeug, gelernt werden muss. Denn nur erlerntes Verhalten kann das Gehirn in einer solchen Situation rechtzeitig abrufen und umsetzten. Reduzierte Geschwindigkeit und jährliches Fahrsicherheitstraining beim ADAC helfen da sehr.
Die abstrakte Abwägung dauert viel zu lange und die einsetzende Panik übermannt auch jede Logik, deshalb kommt es viel zu oft zu dieser willkürlichen Übersteuerung des Fahrzeugs.

Wer macht das denn freiwillig? Versteht mich nicht falsch - Fahrsicherheit ist gut und ich finds klasse, dass es angeboten wird. Aber wie viel % der Bevölkerung machen das in ihrer Freizeit? Lass es 1% sein (das wäre imho schon sehr hoch), dann fallen die restlichen 99% trotzdem in ihren Reflexzustand zurück.

Ich hab auch mal eine Wildsituation gehabt. Ein Reh wollte mir früh morgens in die Seite laufen (und mein kleiner Polo mit 32 PS hatte da grad mal 30 km/h oder so drauf). Anstatt voll in mich reinzulaufen, ditschte es nur leicht in die Seite und lief dann mit mir weitere 20m mit, bis das Reh kapierte, dass ich weiter geradeaus fahre. Bremsen hätte das Reh verschreckt, beschleunigen auch - also bin ich einfach mit 30 weitergerollt. Die Entscheidung war am Ende richtig. Kein Schaden am Auto, kein Schaden am Reh und alles war okay. Nur: Das hätte mir kein Fahrtraining beibringen können - das war intuitiv "Wie würde ich handeln, wenn ich jetzt das Reh wäre" innerhalb einer halben Sekunde.

Ansonsten bei den Standard-Wildunfällen klar: Bremsen und draufhalten.

 

[Junatic]

Erinnert mich stark an die Geschichte im Buch C-Systeme. Da ging es nur Gnadenlos nach hinten los. Hoffentlich wird das hier nicht so.

 

[Vlooe]

Wer macht das denn freiwillig?

Ich hab schon 2 gemacht.
1. Mal ein paar Monate nach dem ich den Lappen hatte.
2. Mit dem neuen Auto.
Das erste mal hat sogar der ADAC (teilweise?) bezahlt.

Beim Fahrsicherheitstraining gehts weniger darum zu lernen wann/wie zu reagieren sonder darum zu lernen wie sich ein/mein Auto in Grenzsituationen verhält.
Ausweichen ist z.B so eine Grenzsituation. Die meißten Lenken dabei zuviel/zulange und schon ist man im Graben.

Ansonsten bei den Standard-Wildunfällen klar: Bremsen und draufhalten.

Du glaubst garnicht wieviele beim Training es nicht auf die Reihe bekommen voll in die Eisen zu Steigen bis die Karre steht...
Einige streicheln nur das Pedal obwohl der Trainer gesagt hat auf Kommando volle kanne drauf...

Zum Thema Priorisierung von Personen:
Ich sehe nicht wie hier etwas Priorisiert werden kann.
Aktuelle Technik kann nur erkennen ob große/kleine Person.
Jede weitere Kategorisierung würde die nötige Rechenleistung ernorm erhöhen bei zweifelhaftem ergebniss.
Wie unterscheidet man Mann/Frau? Anhand Kleidung/Frisur?
Wie unterscheidet man Jung/Alt? Größe? Anzahl Falten im Gesicht?


Zum Dilemma Person/Gruppe A oder Person/Gruppe B umfahren:
Ich finde die Fälle extrem Konstruiert. Warum muss man immer 1 Gruppe auswählen anscheinend ist also Zeit zum Regieren, warum also nicht einfach an beiden vorbei. Oder eine Gruppe nur streifen?

Das andere was mich daran stört:
Nur der "Beobachter" weiß dass es 2 Gruppen gibt.
Das Fahrzeug wird immer eine Gruppe zuerst erkennen und schon eine Aktion einleiten. Ob und wie es dann auf die 2. Gruppe reagieren kann ist eine andere Frage

 

[King Loui]

Wer macht das denn freiwillig? Versteht mich nicht falsch - Fahrsicherheit ist gut und ich finds klasse, dass es angeboten wird. Aber wie viel % der Bevölkerung machen das in ihrer Freizeit? Lass es 1% sein (das wäre imho schon sehr hoch), dann fallen die restlichen 99% trotzdem in ihren Reflexzustand zurück.

Ich mache es alle 1-2 Jahre. Nicht nur das es Spaß macht es ist auch sehr lehrreich. Jeder Wagen verhält sich in solchen Situationen anders, bisher habe ich es mit drei verschiedenen Fahrzeugen gemacht und jedes Mal waren die Erfahrungen neu. Vlooe beschreibt es ganz genau, die Menschen kennen ihre Fahrzeuge nur im normalen Straßenbetrieb und reagieren in Gefahrensituationen dann falsch. Eine Vollbremsung kostet einiges an Überwindung. Wenn man das in sicherer Umgebung noch nie gemacht hat, macht man es schon gleich garnicht in einer Unfallsituation.
Das Ausweichen wird zur Todesfalle weil man übersteuert und generell den Drang hat dies auch noch Richtung Gegenverkehr zu machen.

Ansonsten bei den Standard-Wildunfällen klar: Bremsen und draufhalten.

Das sagst du so leicht, aber mach das mal wenn da ein Keiler oder Hirsch plötzlich auf der Fahrbahn steht und du es noch nie gemacht hast. Es theoretisch zu wissen nützt nichts.

Ich hab auch mal eine Wildsituation gehabt. Ein Reh wollte mir früh morgens in die Seite laufen (und mein kleiner Polo mit 32 PS hatte da grad mal 30 km/h oder so drauf). Anstatt voll in mich reinzulaufen, ditschte es nur leicht in die Seite und lief dann mit mir weitere 20m mit, bis das Reh kapierte, dass ich weiter geradeaus fahre. Bremsen hätte das Reh verschreckt, beschleunigen auch - also bin ich einfach mit 30 weitergerollt. Die Entscheidung war am Ende richtig. Kein Schaden am Auto, kein Schaden am Reh und alles war okay. Nur: Das hätte mir kein Fahrtraining beibringen können - das war intuitiv "Wie würde ich handeln, wenn ich jetzt das Reh wäre" innerhalb einer halben Sekunde.

Das Reh kapiert garnix. Die Reaktionen basieren nur auf ihrem exorbitanten Fluchtinstinkt. Erst letztes Jahr ist eins vor meinem Jeep im Wald geflüchtet und dabei kontinuierlich gegen den Wildzaun gerammelt bis es Tod war. Schießen durfte ich es nicht und so musste ich mir das anschauen. Es hätte auch in jede andere Richtung, ich habe ja gestoppt, flüchten können, aber ich sage ja, das Reh kapiert nix.

 

[joepc]

Ist nicht nötig denn in der Praxis werden nie zwei Wahrscheinlichkeiten auf grade 50.000% kommen.



...

Und deswegen war die Entscheidung ja auch so wichtig, dass in der Entscheidungsgleichung Kind und Rentner jeweils den gleichen "Wert" bekommen. Somit wird bei bei einer Berechnung Überlebenswahrscheinlichkeit Kind 49,9% und Rentner 50,1% das Kind umgefahren. Hört sich intuitiv vielleicht "hart" an, ist aber moralisch die einzige richtige Entscheidung, da Mensch = Mensch. Unabhängig von allen weiteren Bewertungskriterien.

 

[DragonTear]

Erinnert mich stark an die Geschichte im Buch C-Systeme. Da ging es nur Gnadenlos nach hinten los. Hoffentlich wird das hier nicht so.

In Geschichten geht es IMMER gnadenlos nach hinten los, denn eine Geschichte wo alles vorhersagbar und glatt geht, ist wohl den meisten zu langweilig und würde nicht bekannt oder gekauft werden.
Das heisst nicht dass irgendeine Wahrheit oder hohe Wahrscheinlichkeit dahinter steckt.