Vážny problém elektromobilov Tesla

Tencent Keen Security Lab je spoločnosť, ktorá zamestnáva expertov, aby preverili bezpečnosť softvérov.
 Japonská firma zverejnila pozoruhodné video, v ktorom dal zabrať systému značky Tesla Modelu S a upozorňuje, že nie je celkom dokonalé.
 Tím expertov pod menom “White hat” oklamali všetky snímače až do takej mieri, že sám Elon Musk, riaditeľ spoločnosti Tesla uznal, že sú frajeri.

herní konzole.jpg
 
Najprv znemožnili banalitu, ako je automatické spúšťanie stieračov.
 Model S zaparkovali oproti širokej obrazovke a pustili špeciálne video, čo umelá inteligencia vyhodnotila tak, že ide o dážď a spustila stierače.
 
 Video bolo pritom len zhlukom rôznych farebných obrazcov. To však systém považoval za dážď.
    Môže za to umelá inteligencia, ktorá vníma svet pred sebou podľa obrázkov, a tak rozpoznáva dážď úplne inak ako bežné dažďové snímače. No úplne inak ako ľudské oko.
 Na tento účel potrebuje kameru so širokouhlým záberom, ktorá umiestnená na čelnej skle. Algoritmy vytvorí podľa zaznamenaných fotkách a systém hľadá informácie. Na oklamanie systému tak stačilo vedieť respektíve prísť na to, aké informácie z obrázkov považuje umelá inteligencia za dážď.
 
Tesla na tieto správy reagovala s úplnou ľahkosťou.
Podľa nich nič také v reálnej situácii na cestách nehrozí. Navyše vraj systém pre automatické stieranie je v “BETA” verzii (vo fáze testovania) a používatelia si ho môžu vypnúť.
 
Vážny nedostatok Autopilota sa prejavuje nebezpečne. Systém rozpoznáva rôzne označenie na cestách. K tomu potrebuje kamery a tiež rozpoznáva znaky z obrázkov pomocou strojového učenia – umelej inteligencie.
 V teste stačilo na cestu umiestniť nepravidelne bodky a Autopilot ostal zmätený, nedržal sa pôvodných čiar na ceste a prešiel do protismeru.
 Podobné chyby na ceste pritom spôsobia veľmi vážne dopravné nehody. Neprišli na to náhodne, no vďaka testov a skúšok, ako reaguje Autopilot našli túto chybu.

barevné pozadí.jpg
 
Výrobca sa opäť zareagovala na to originálne. Vraj toto nie sú závažné problémy, pretože vodič môže kedykoľvek prevziať riadenie vozidla, pretože má byť pripravený vždy zasiahnuť v prípade potreby.
 
Vrcholom testu sa stáva ovládanie auta pomocou ovládača z hernej konzoly (gamepad / joystick). Ukázalo sa, že autopilota porazili a tým potvrdili fakt, že ovládať auto sa dá za istých okolností, no len na krátky čas.
 Nejde však o jednoduché ovládanie. Piráti museli prelomiť bezpečnostný modul APE (AutoPilot Engine Central Unit) aby sa k autu pripojili bezdrôtový ovládač.
 
Tencent Keen Security Lab testoval auto s firmvérom 2018.6.1 a dokázal prelomiť zabezpečenie vozidla, aj keď to nebolo jednoduché. Autopilot už novú verziu má, ale to neznamená, že je dokonalý.
 
Výrobcovia autonómnych a čiastočne autonómnych vozidiel na tieto odhalenia by mali opraviť nedostatky a výraznejšie zabezpečiť tieto systémy. Ak sa tak nestane, reálne hrozí, že budeme počúvať naďalej o záhadných okolnostiach dopravných nehôd.