Groźne autonomiczne samochody

Elon Musk, prezes firmy Tesla produkującej samochody elektryczne, twierdzi, że za naszego życia kierowanie autami stanie się nielegalne. Nasi potomkowie będą się dziwić, jak mogliśmy przez ponad 100 lat pozwalać ludziom siadać za kierownicą kilkutonowych pojazdów i rozpędzać je do takich prędkości, przy których w razie krytycznej sytuacji na drodze mamy tylko ułamek sekundy na właściwą reakcję, aby uniknąć tragedii. Współczesne komputery nie potrzebują więcej czasu niż właśnie ułamek sekundy, by na chłodno przeprowadzić analizę sytuacji, rozważyć różne warianty reakcji i rozwoju zdarzeń, a następnie wybrać najkorzystniejszy. Pytanie brzmi, nie czy, ale kiedy zastąpią one ludzi za kierownicami aut.

Puścić kierownicę

Prace nad samochodami autonomicznymi (lub samojazdami, jak niektórzy w Polsce je nazywają) trwają już od lat 80. ubiegłego wieku, ale przyspieszyły szczególnie w ostatnich latach, na skutek rozwoju komputerowego przetwarzania obrazu naturalnego. Do niedawna komputery nie radziły sobie dobrze z rozpoznaniem, co znajduje się na fotografii lub filmie. Dziś dzięki postępom osiągniętym w zakresie algorytmów sztucznej inteligencji komputery szybciej i sprawniej od ludzi potrafią wychwycić i zidentyfikować obiekty na zdjęciu.

Oprócz odbiornika GPS pozwalającego na określenie położenia samochody autonomiczne wyposażone są w wiele dodatkowych urządzeń analizujących, co dzieje się dookoła pojazdu. Jednym z takich urządzeń jest tzw. lidar, przyrząd wykorzystujący światło lasera do określenia położenia i odległości obiektów wokół samochodu. Kilka kamer wideo na bieżąco analizuje obraz, rozpoznaje znaki drogowe i oznaczenia na jezdni. Klasyczne radary pomagają podczas parkowania i aktywują systemy hamowania w sytuacji zagrożenia kolizją. Dane ze wszystkich sensorów są analizowane przez komputer pokładowy i na ich podstawie podejmowana jest decyzja dotycząca ruchu kołami i zmiany prędkości samochodu.

Najbardziej zaawansowani w tworzeniu rozwiązań niezbędnych w samochodach autonomicznych są: Waymo – należący do grupy kapitałowej Alphabet (właściciela Google'a), Mobileye – firma z Izraela, kupiona w marcu 2017 r. przez producenta procesorów Intel za 15 mld dolarów, i Tesla – lider w sprzedaży pojazdów elektrycznych. Potencjał rynkowy wykorzystać chce również firma Apple, ale ten projekt pozostaje tajny i niewiele o nim wiadomo.

Stowarzyszenie Inżynierów Motoryzacji (ang. Society of Automotive Engineers) zaproponowało sześciostopniową skalę określającą poziom zaawansowania autonomiczności pojazdu. Poziom zerowy oznacza brak samodzielności. Pierwszy – pewne wsparcie podczas jazdy, np. tempomat, ostrzeżenie przed niezamierzonym zjechaniem z własnego pasa ruchu lub pomoc podczas wykonywania manewru parkowania równoległego tyłem, który może być wykonany samodzielnie przez komputer pokładowy. Tego typu wsparcie obecne jest już w coraz większej liczbie występujących na rynku samochodach z wyższej półki.

Poziom drugi zakłada, że komputer pokładowy może przejąć sterowanie kierunkiem jazdy i prędkością samochodu, ale kierowca powinien przez cały czas być skupiony na drodze, trzymać ręce na kierownicy i być w każdej chwili gotowy do interwencji i przejęcia kontroli nad pojazdem. Na poziomie trzecim w pewnych określonych okolicznościach (np. odpowiednia widzialność, pogoda i warunki na trasie) samochód może jechać sam, poziom czwarty to samodzielność pojazdu w większości warunków. Natomiast piąty poziom autonomiczności zakłada, że pasażerowie pojazdu określają tylko cel podróży, która odbywać się będzie bez potrzeby jakiejkolwiek interwencji ze strony człowieka. Samochody takie nie będą w ogóle miały kierownicy.

Poziom drugi i trzeci, w których kierowca powinien stale monitorować jazdę, niosą ze sobą duże ryzyko. Krótko po tym, gdy w październiku 2014 r. Tesla zaoferowała swoim klientom możliwość jazdy na autopilocie w określonych warunkach drogowych, w internecie pojawiły się filmy pokazujące kierowców oglądających podczas jazdy filmy, grających z pasażerem w karty lub... drzemiących za kółkiem. Autopilot wydawał się działać tak dobrze, że kierowcy dekoncentrowali się i ignorowali fakt, że to oni wciąż są odpowiedzialni za kontrolowanie maszyny.

Dla 40-letniego Joshuy Browna zbytnie zaufanie do technologii skończyło się fatalnie. 7 maja 2016 r. jechał on samochodem Tesla Model S drogą szybkiego ruchu wiodącą przez północną Florydę. Warunki były dobre, więc Joshua aktywował autopilota. Przed samochodem z przeciwnego pasa ruchu ciężarówka z naczepą rozpoczęła manewr skrętu w lewo, przecinając drogę pojazdowi Tesli. Kierowca nie zareagował, system awaryjnego hamowania nie zauważył naczepy i kontynuował jazdę. Górna część samochodu została ścięta w kolizji, do której doszło przy prędkości 119 km/h, a dolna zatrzymała się dopiero poza drogą, taranując po drodze dwa ogrodzenia. Brown zginął na miejscu. Szczegółowe dochodzenie wykazało, że komputerowi pokładowemu biała naczepa zlała się z jasnym niebem w tle. Nie wiadomo, dlaczego kierowca nie zareagował. Być może oglądał akurat film na DVD, bo we wraku samochodu znaleziono przenośny odtwarzacz.

W oficjalnym oświadczeniu przedstawiciele firmy Tesla zaprezentowali dane świadczące o tym, że w ich samochodach z aktywowaną funkcją autopilota dochodzi do wypadków rzadziej niż w samochodach prowadzonych przez ludzi.

Bez korków, bez wypadków, bez przyjemności

Wielu producentów samochodów autonomicznych zdecydowało, że rozpoczną sprzedaż, dopiero gdy osiągną one poziom piąty – pełną samodzielność. Zgodnie z zapowiedziami pojazdy takie powinny się pojawić na rynku około roku 2021. Będzie to rewolucja na miarę pojawienia się internetu i telefonów komórkowych. Największą korzyścią ma być zmniejszenie liczby wypadków samochodowych, ich ofiar i kosztów z tym związanych. Według firmy McKinsey & Co możemy się spodziewać nawet o 90 proc. mniej incydentów drogowych. W samych Stanach Zjednoczonych ocali to życie tysięcy osób i przyniesie nawet 190 mld dolarów oszczędności rocznie. W Polsce w 2016 r. policja odnotowała 33 tys. wypadków, w których śmierć poniosło 3 tys. osób, a rannych zostało 40 tys.

Zniknąć miałyby też korki drogowe. Wyzwolone z ograniczeń szybkości reakcji ludzkiego mózgu auta będą jeździć szybciej, ruch drogowy będzie płynny, pojazdy będą ruszać z miejsca w tym samym momencie. Z czasem ze skrzyżowań zniknie sygnalizacja świetlna, a samochody będą komunikować się ze sobą i na bieżąco ustalać porządek przejazdu. Z pojazdów autonomicznych będą mogły korzystać samodzielnie osoby starsze, niepełnosprawni, dzieci lub osoby czasowo niezdolne do prowadzenia samochodu, np. w piątkowy wieczór. Kierowcy odzyskają czas tracony na prowadzenie auta i będą mogli poświęcić go na pracę lub rozrywkę.

A co z tymi, którzy lubią prowadzić? Cóż, na pewno pojawią się parki rozrywki, w których za odpowiednią opłatą, po założeniu kasku, ochraniaczy i podpisaniu stosownych oświadczeń, będzie można znowu choć na chwilę usiąść za kierownicą tradycyjnego samochodu.

Miasta zmieniały się zawsze wraz z rozwojem środków transportu. Początkowo budowane były wokół rzek. Kiedy powstała kolej, najbardziej rozwinęły się te ośrodki, do których można było dojechać pociągiem. Pojawienie się samochodów odseparowało dzielnice mieszkaniowe od przemysłowych i sprawiło, że mieszkańcy mogli się wyprowadzić na przedmieścia.

Kolejną wielką zmianą w funkcjonowaniu miast będzie pojawienie się samochodów autonomicznych. Skończy się wreszcie rozpaczliwe krążenie w celu znalezienia miejsca parkingowego. Pasażerowie będą mogli opuścić pojazd u celu podróży, a samochód sam odjedzie na najbliższy parking (który w tym wypadku może być ulokowany w dużo mniej dogodnym miejscu), czekając tam cierpliwie, aż właściciel przywoła go do siebie ponownie. Mniejsze zapotrzebowanie na miejsca parkingowe uwolni ogromne ilości gruntu, które można będzie przeznaczyć pod zabudowę lub na miejską zieleń.

Ale jeśli możemy przywołać samochód w dowolne miejsce, kiedy jest nam potrzebny, to czy w ogóle musimy go posiadać? Według Paula Bartnera, doradcy ds. transportu, auta stoją zaparkowane przez 95 proc. czasu. Zamiast kupować samochód, troszczyć się o jego utrzymanie i naprawy, można będzie skorzystać z usługi, która w dowolnym momencie i miejscu będzie nam pozwalała wynająć taki pojazd, jaki akurat jest nam potrzebny. Randka w letnią noc? Kabriolet poproszę. Weekendowy wyjazd z rodziną za miasto? Najlepszy będzie siedmioosobowy samochód z duża przestrzenią na bagaż. Usługodawca zapewni utrzymanie i serwis floty. Liczba potrzebnych aut w przeliczeniu na jednego użytkownika ulegnie znaczącej redukcji.

Ofiary rewolucji

Na nadchodzące zmiany z obawą patrzą pracownicy firm transportowych. Według raportu PwC w Polsce pracuje około 650 tys. zawodowych kierowców (w USA jest ich 3,5 mln). Czy ich praca stanie się zbędna? Jak poradzą sobie z utratą zatrudnienia? Zmniejszenia zapotrzebowania na usługi powinny się też spodziewać serwisy i warsztaty samochodowe. Upowszechnieniu pojazdów autonomicznych towarzyszyć będą na pewno dyskusje i protesty.

Pojawiają się również głosy, że zmniejszenie kosztu podróży w przeliczeniu na kilometr zachęci ludzi do wyprowadzki jeszcze dalej poza miasto. To z kolei może doprowadzić do zwiększenia ruchu drogowego i paradoksalnie spowodować jeszcze większe korki przy wjeździe do centrów.

Wciąż niewyjaśniona pozostaje kwestia, kto będzie ponosić odpowiedzialność za ewentualne szkody wyrządzone przez samochody autonomiczne. Legislacja nie nadąża za postępem technicznym. Odpowiedzialność pasażera jest z pewnością wykluczona, ponieważ nie ma on wpływu na bieg zdarzeń. Właściciel, poza wyborem konkretnego modelu pojazdu, również nie ma wpływu na jego działanie. Jego odpowiedzialność powinna być ograniczona do obowiązku przeglądów technicznych i – co w przypadku pojazdów autonomicznych kluczowe – zapewnienia, że działają one zawsze na podstawie najnowszej wersji oprogramowania.

Producentowi samochodu będzie można przypisać winę, tylko jeśli do wypadku dojdzie na skutek spowodowanej wadą konstrukcyjną usterki technicznej. Odpowiedzialność za błędne decyzje komputera pokładowego będzie musiał wziąć na siebie jego dostawca. Jeśli polisy indywidualne przestaną być potrzebne, to rynek ubezpieczeń samochodowych również czeka rewolucja.

Komisja Prawna Parlamentu Europejskiego w styczniu 2017 r. przyjęła raport zakładający stworzenie specjalnego zestawu regulacji prawnych dotyczących robotyki i samochodów autonomicznych. Co ciekawe, oficjalny dokument przywołuje w preambule postacie Frankensteina i Golema jako przykłady odwiecznych starań ludzkości o stworzenie nowego bytu. Dalej w tym raporcie możemy przeczytać o propozycji obowiązkowej rejestracji wszystkich robotów, potrzebie wbudowania globalnego wyłącznika chroniącego przed ich nieodpowiednim działaniem, a także utworzenia specjalnego schematu ubezpieczeń. Najdalej idąca propozycja obejmuje stworzenie – obok osoby fizycznej i prawnej – osoby elektronicznej, nowego bytu prawnego. Status taki mogłyby osiągać tylko najbardziej zaawansowane roboty.

Budowa oprogramowania do sterowania samochodem autonomicznym niesie ze sobą wyzwania nie tylko natury technicznej. Wyobraźmy sobie bowiem sytuację, w której w szybko poruszającym się pojeździe dochodzi do awarii systemu hamulcowego, a auto właśnie zbliża się do przejścia dla pieszych. Wypadek jest nieunikniony. Pozostał ułamek sekundy na manewr, który ocali przechodniów. To, co dla człowieka jest kwestią instynktu (i uniknięcia dozgonnej traumy), dla komputera jest sekwencją decyzji, które na chłodno wykona zgodnie z tym, jak został zaprogramowany. Ale jak powinien być zaprogramowany w takich sytuacjach i kto ma o tym zadecydować? Skręcić, uderzyć w drzewo i zabić własnych pasażerów czy ich chronić i rozjechać pieszych? Czy decyzja powinna być inna, jeśli piesi łamią przepisy i przechodzą na czerwonym świetle? Czy brać pod uwagę potencjalną liczbę ofiar? Ich wiek? Płeć? Pozycję społeczną? Massachusetts Institute of Technology w ramach projektu badawczego stworzył stronę internetową, na której każdy może samemu dokonać tego typu wyborów i sprawdzić, jak jego odpowiedzi plasują się na tle średniej.

Często nie zdajemy sobie sprawy, jak bardzo samochód wrósł w nasze codzienne życie i jak często wchodzimy w interakcje społeczne z kierowcami. Na przedmieściach miast, gdzie nierzadko brakuje chodnika, przechodnie i samochody dzielą między siebie jezdnię. Przejścia dla pieszych są nieoznakowane. Piesi spodziewają się, że mogą przejść na drugą stronę w dowolnym miejscu, ale zawsze upewniają się wcześniej, czy nadjeżdżający kierowca na pewno ich widzi, szukając z nim kontaktu wzrokowego, albo przynajmniej spodziewają się, że samochód zwolni na ich widok. Często zbliżają się do krawędzi jezdni, przepuszczają szybko jadące auto i wchodzą na drogę przed następnym.

Te oczywiste dla nas sytuacje występujące na co dzień będą bardzo trudne do rozstrzygnięcia przez systemy kierujące samochodami autonomicznymi. Pojazdy bez kierowcy będą za wszelką cenę unikały jakichkolwiek niebezpiecznych sytuacji i gwałtownie hamowały na widok pieszego zbliżającego się do jezdni. To z kolei może powodować zatory drogowe, te same, które miały zniknąć wraz z pojawieniem się samochodów autonomicznych. Będziemy więc musieli nauczyć się współżyć z nowymi członkami naszych społeczności.

Oprogramowanie, na podstawie którego działać będą samochody autonomiczne, oraz system centralny zarządzający mapami, trasami i bezkolizyjną jazdą będą jednymi z najbardziej złożonych systemów komputerowych na świecie. Część systemu nie zostanie zaprogramowana, ale „wytrenowana" na podstawie olbrzymiej ilości zebranych danych. O takich systemach wiemy tyle, że zachowują się poprawnie w sytuacjach, w których zostały przetestowane. W pewnych, niewystępujących wcześniej sytuacjach system może jednak postąpić w zupełnie nieprzewidywalny sposób.

Tragiczne skutki może mieć również atak cybernetyczny na system centralny lub pojedynczy samochód. Hakerzy mogą próbować przejąć kontrolę nad pojazdem, nadając nowe znaczenie wyrażeniu „samochód pułapka".

Bezpieczeństwo zamiast prywatności

Upowszechnienie samochodów autonomicznych oznacza absolutny kres i tak już mocno naruszonej przez rozwój technologiczny prywatności. Dane z kamer, sensorów i radarów zainstalowanych w pojazdach będą na bieżąco przesyłane do centrali w celu usprawnienia algorytmów, aktualizacji map, a także dokumentacji zachowania samochodu. Zebrane informacje mogą zostać przeanalizowane przy użyciu istniejących już algorytmów do rozpoznawania twarzy, mimiki, stanu emocjonalnego nagranych osób, a następnie skojarzone z położeniem geograficznym i przechowywane w celu dalszego poszukiwania wzorców zachowań. W rezultacie będziemy cały czas obserwowani i kontrolowani.

Jedyną szansą na odrobinę prywatności stanie się ucieczka do wiejskiej głuszy. Producenci samochodów i podmioty, którym udostępnią oni zbierane przez siebie dane, będą wiedzieć o nas wszystko, jeśli tylko wyjdziemy z domu lub odsłonimy zasłony w oknach. Fantazja z filmu „Raport mniejszości" stanie się rzeczywistością.