Genauso entstehen Unfälle! Leute kennen die Systemgrenzen nicht, glauben das Auto kann alles alleine und passen nicht mehr auf.
Manch ein Tesla-Fahrer hat seinen "Autopilot" mit dem Leben bezahlt.
Edit: Ein Abtesten der Systemgrenzen bei gleichzeitig erhöhter Aufmerksamkeit und dem Wissen, dass wenn es schief geht die Kacke am Dampfen ist, ist gar nicht schlecht. Dann weiß man um die Grenzen in der Praxis und kann sich darauf einstellen. Trotzdem sollte man auch die theoretischen Grenzen kennen und entsprechend berücksichtigen. Das System kann sich innerhalb seiner (u.a. in der Anleitung) spezifizierten Grenzen situationsabhängig auch anders verhalten.
Und wenn man sowas tut sollte man Wissen wie viel Platz man noch zum manuellen Bremsen benötigt, falls die Systemreaktion mal ausbleibt.
Hintergrund:
Die Erkennung von stehenden Objekten ist signifikant schwerer als die Erkennung fahrender Objekte. So ein Radarsensor sieht nicht nur die im Sichtbereich (des Sensors!) vorhandenen Fahrzeuge, sondern auch noch eine ganze Menge "Störobjekte" (Leitplanken, Blumenkübel, Bordsteine, Schilder, Fußgänger, Radfahrer, ...). Aus der Gesamtmenge dieser Objekte müssen die relevanten Objekte raus gefiltert werden. Das ist für stehenden Objekte nicht trivial und wird häufig mit zusätzlichen Sensoren gelöst (z.B. zweiter Radarsensor, Lidar, Kamera)
