Der tödliche Unfall, bei dem am 18. März 2018 ein autonomes Uber-Fahrzeug (eine modifizierter Volvo XC90) eine Frau (die 49 Jahre alte Elaine Herzberg) überfahren hat, als diese ihr Fahrrad über die Straße geschoben hat, wurde laut US-Medienberichten durch die Software des Uber-Fahrzeugs verursacht. Demnach sollen die Sensoren des Uber-Fahrzeugs die Frau durchaus erkannt haben, doch die Software entschied nicht zu bremsen und auch nicht auszuweichen.
Die für das autonome Fahren zuständige Software soll die von den Sensoren erkannte Frau als „false positive“ eingestuft haben. Also sozusagen als falschen Alarm. Als „false positive“ wird alles bezeichnet, was die Sensoren als „Objekte“ vor dem selbstfahrenden Auto im weitesten Sinne erkennen, die keine Ausweich- oder Brems-Reaktion des Fahrzeugs erfordern. Beispielsweise eine Plastiktüte, die über die Fahrbahn geweht wird, wie The Informationen schreibt. Demnach hatte Uber die Entscheidungsschwelle für die Software so niedrig eingestellt, dass die Software das Rad schiebende Frau als ein solches „false positive“ eingestuft habe.
Um solche Fehlentscheidungen der Uber-Software korrigieren zu können, sitzt hinter dem Lenkrad eigens ein Mensch zur Überwachung des autonom fahrenden Wagens. Doch diese Überwachungsperson war abgelenkt und schaute im entscheidenden Moment nicht nach vorne, sondern vor sich nach unten, wie das Überwachungsvideo von der Kamera im Inneren des Volvo beweist.
Uber selbst hat sich zu dem Medienbericht noch nicht geäußert.
Uber steht in der Kritik, dass es die Sicherheitsmaßnahmen für seine selbstfahrenden Autos eher niedrig ansetzen würde. So hat Uber die Zahl der Sicherheitsfahrer in seinen autonomen Fahrzeugen von 2 auf 1 gesenkt. Zudem habe Uber die Anzahl der am autonomen Auto angebrachten Lidarsensoren reduziert. Lidarsensoren können Objekte exakter und schneller identifizieren als Radarsensoren und sind deshalb für autonome Autos besonders wichtig.
Weiterer Unfall mit autonomem Auto im Straßenverkehr