Pojazdy autonomiczne błędnie odczytują znaki drogowe

Zgodnie z raportem opublikowanym na blogu Car and Driver, badacze z University of Washington dowiedli, że istnieje pewien prosty sposób na oszukanie pojazdów autonomicznych – wystarczy lekko zdeformować znak drogowy, by samochód odczytał go zupełnie inaczej.

Taki manewr wprowadza w błąd algorytm wykrywający obrazy, przez co mechanizm odczytuje błędnie mijany znak. Aby zilustrować swoją tezę, naukowcy wydrukowali zdjęcie przedstawiające nakaz skrętu w prawo z pewnymi modyfikacjami i zasłonili wydrukiem właściwy symbol na drodze. Deformacja obrazu sprawiła, że system w samochodzie odczytał znak jako ograniczenie prędkości do 45 mph (72 km/h).

Rowerem bezpieczniej 🙂

Następstwa takich błędów maszyn mogą być bardzo niebezpieczne – łatwo sobie wyobrazić, jak wyglądałby ruch na ulicach, gdyby pojazdy zamiast zwolnić przyspieszały albo ruszały tam, gdzie widnieje znak stop. Wygląda na to, że inteligencja maszyn wciąż pozostawia wiele do życzenia – upłynie jeszcze sporo czasu, zanim będzie można zaufać automatom do tego stopnia, by mogły całkowicie zastąpić pojazdy sterowane przez człowieka.