Ashok Elluswamy, szef zespołu Autopilota w Tesli, dał wykład na temat mechanizmów uczenia sztucznej inteligencji, by rozpoznawała ruch drogowy i rozmaite obiekty. Na nagraniu pokazano kilka przypadków, gdy systemy bezpieczeństwa Tesli – nazywane zbiorczo „Autopilotem” – ratowały czyjeś nogi lub życie. Bo rozpoznawały, że człowiek wciskał pedał przyspieszenia zamiast hamulca.
Wypadki, którym zapobiegła elektronika. Mogło być strasznie
Fragment wykładu wyciął Whole Mars Blog i zamieścił go na swoim profilu na Twitterze. Nagrania są lekko przerażające, jeśli pomyślimy o tym, jakie mogły mieć konsekwencje – chociaż oczywiście nie dzieje się tam nic złego:
Tesla Vision prevents about 40 crashes a day due to pedal misapplication (hitting the accelerator instead of the brake).
Here’s some footage of real crashes that were prevented by Tesla’s software: $TSLA @elonmusk pic.twitter.com/NSXAaOuzN0
— Whole Mars Catalog (@WholeMarsBlog) August 25, 2022
Pierwsza sytuacja na filmie to ujęcie z kamer cofającego auta. Ktoś powoli jedzie w stronę człowieka stojącego przed samochodem. Górny wykres po prawej stronie pokazuje stopień wciśnięcia pedału przyspieszenia, w szczycie jest to 100 procent (!, „do dechy”). Dolny wykres po prawej stronie to przyspieszenie: człowiek rozpędza auto, po chwili zaczyna ono automatycznie hamować. Wykres na górze po lewej stronie to moment działania AEB (AEB = Autonomous Emergency Braking, Samodzielny Mechanizm Hamowania w Nagłych Wypadkach).
Mówiąc krótko: ktoś podjeżdżał powoli do drugiego samochodu i w pewnym momencie wcisnął pedał przyspieszenia do oporu, bo zapomniał przenieść nogę na hamulec. AEB będący częścią Autopilota uratował czyjeś nogi.
Druga sytuacja to parkowanie nad rzeką. Samochód rozpoznał niebezpieczną sytuację i zahamował. Gdyby elektronika Tesli nie zareagowała, auto wystrzeliłoby jak z procy do rzeki. W trzeciej sytuacji Autopilot (AEB) hamuje widząc starszą osobę znajdującą się przed sklepem, prawdopodobnie coś tam oglądającą lub układającą. I ponownie: elektronika zapobiegła wbiciu jej do wnętrza lub, co gorsza, przejechaniu po niej.
Z informacji zamieszczonej na slajdzie wynika, że Autopilot zapobiega średnio 40 niewłaściwym wciśnięciom pedału przyspieszenia na dobę. Cała prezentacja znajduje się na YouTube. Powyższy fragment zaczyna się od 23:45. Warto obejrzeć całość:
