Prawdziwe problemy ze sztuczną inteligencją

Do tego, że maszyny są lepsze od nas w szachach, zdążyliśmy się już przyzwyczaić. 20 lat temu komputer IBM Deep Blue najpierw przegrał z Garrym Kasparowem, ale zaraz potem w kolejnym meczu zwyciężył go. Potem zdarzały się remisy między komputerami i największymi szachistami. W ostatnim takim meczu na szczycie zwyciężyła maszyna: program Deep Fritz pokonał ówczesnego mistrza świata Władimira Kramnika. Wszyscy już wiedzą: komputery są w szachach lepsze.

Daleki Wschód przyglądał się tym zmaganiom pobłażliwie. Komputery może dają sobie radę w szachach, ale w go na pewno by sobie nie poradziły, bo zabraknie im mocy obliczeniowej, żeby przewidywać kolejne ruchy. Starożytna chińska gra jest rozgrywana na olbrzymiej planszy: o wymiarach 19 na 19 pól. Liczba możliwych kombinacji jest znacznie większa niż w szachach: w go jest ich 10 do potęgi 171, w szachach zaś 10 do potęgi 50. Biorąc pod uwagę te liczby, należy uznać, że porównywanie go do szachów przypomina porównywanie szachów do gry w kółko i krzyżyk. Tak rozumowali Chińczycy, Japończycy, Koreańczycy – i spali spokojnie.

A tymczasem Brytyjczycy z firmy Deep Mind cyzelowali swój program AlphaGo. W 2014 roku niewielką firmę kupił koncern Google i dofinansował ją. Sukcesy nadeszły zaraz potem. W 2015 roku program pokonał europejskiego mistrza go Fana Hui pięć do zera. Była to pierwsza wygrana komputera z zawodowym graczem w go. Hui mówił po meczu, że klasa algorytmu jest porażająca i że miał wrażenie, jakby maszyna przewidywała jego ruchy, ale nie te, które wykonywał, lecz znacznie lepsze.

Fan Hui to jednak czempion europejski: ma zaledwie drugi dan – czyli stopień mistrzowski – na dziewięć możliwych. Daleki Wschód i jego mistrzowie z dziewiątym dan wciąż spali spokojnie. Jednak były to ostatnie chwile ich snu. W marcu 2016 roku doszło do spotkania AlphaGo z Koreańczykiem Lee Sedolem, jednym z dwóch czołowych zawodników świata. Zasiadając do gry, arcymistrz czuł się już posiadaczem miliona dolarów nagrody. Zadowolić się musiał jednak nagrodą pocieszenia (170 tys. dolarów).

Miliony partii treningowych

Sami twórcy programu AlphaGo nie byli pewni zwycięstwa, twierdzili, że ich algorytm ma mniej więcej 50 proc. szans, by zwyciężyć w pojedynku z arcymistrzem. Ale po pięciu partiach nikt nie ma wątpliwości, że maszyna przewyższa człowieka o klasę. Lee Sedol wygrał tylko jedną z partii – i najprawdopodobniej jest to ostatnia partia, jaką kiedykolwiek człowiek wygrał z tym programem. AlphaGo nieustannie się bowiem sam ulepsza, rozgrywając miliony spotkań sam ze sobą. Jest to jego wielka przewaga nad ludźmi, żaden człowiek nie jest w stanie aż tyle trenować.

Tym, co najbardziej przeraziło, a zarazem zachwyciło komentatorów i samego pokonanego arcymistrza, jest zupełnie niemaszynowy sposób gry algorytmu. Kilka jego ruchów zostało nazwanych przez znawców genialnymi: absolutnie niesztampowymi, przekraczającymi dotychczas zgromadzone doświadczenie.

Oto, jak genialny program działa. Jest to tak zwana głęboka sieć neuronowa czy raczej kilka połączonych sieci naśladujących działanie żywego mózgu. Algorytm, przyswajając nowe doświadczenie, wtłacza je w swoje sieci, delikatnie dostrajając połączenia pomiędzy wirtualnymi neuronami. Te połączenia decydują o tym, jak owe neurony na siebie nawzajem działają, jak bardzo pobudzają swoją aktywność. W toku takiego dostrajania algorytm wytwarza coś w rodzaju wirtualnego mózgu genialnego gracza w go.

Sieci, jak wspomniano, jest kilka. Jedna z nich nosi nazwę sieć decyzyjna. Ma ona u swej podstawy macierz odzwierciedlającą planszę do gry z aktualnym rozkładem pionków. Na szczycie matrycy jest macierz mająca pokazać ruch, który należy wykonać. Pomiędzy nimi zaś jest 11 innych macierzy przejściowych, w których skumulowane jest olbrzymie doświadczenie AlphaGo. W połączeniach pomiędzy punktami tych macierzy kryje się geniusz algorytmu. Po wprowadzeniu ruchu przeciwnika do dolnej macierzy kolejne wirtualne neurony kolejnych pięter są aktywowane, aż na najwyższym piętrze pojawia się ruch, który wykona AlphaGo.

Dostrojenie wartości progowych połączeń między punktami kolejnych macierzy nastąpiło właśnie w wyniku nauczenia algorytmu 30 milionów ruchów mistrzów oraz następnie dzięki milionom partii, które algorytm rozegrał sam ze sobą. Algorytm dysponuje też drugą siecią, nazywaną siecią oceny. Jej zadaniem jest ocenianie sytuacji na planszy. Program potrzebuje takiego dodatkowego systemu, aby grając sam ze sobą, nie kontynuować partii, których wynik jest już przesądzony. W grze w go wcale nie jest łatwo ustalić w dowolnym punkcie gry, kto wygrywa (jest to znacznie trudniejsze niż np. w szachach), podczas partii niejedno może się zmienić. Po jednym ze spotkań z Lee Sedolem informatycy obsługujący algorytm przyznali, że dzięki sieci oceny już od połowy partii wiedzieli, że program zwycięży – podczas gdy koreański arcymistrz do ostatniego ruchu liczył na zwycięstwo.

Sprytny program na niewiele by się zdał, gdyby nie potęga obliczeniowa komputerów, na których został uruchomiony. AlphaGo występuje w dwóch wersjach. Pierwsza działa na jednej maszynie wyposażonej w 48 mikroprocesorów i osiem kart graficznych (karta graficzna używana jest w tym wypadku nie do grafiki, ale do podniesienia mocy obliczeniowej; jest dużo potężniejsza od zwykłego mikroprocesora). Druga wersja AlphaGo działa na wielu komputerach, które łącznie dysponują 1920 mikroprocesorami i 280 kartami graficznymi. Obie wersje są bardzo mocne, choć druga jest lepsza: zwyciężyła w 77 proc. starć między nimi (właśnie przeciw tej drugiej wersji grał Lee Sedol).

Jest to wielka moc obliczeniowa. Dla porównania: Deep Blue miał 256 procesorów. Jednak to właśnie Deep Blue bardziej niż AlphaGo polegał na swojej mocy obliczeniowej: dysponował pewną ograniczoną bazą otwarć i końcówek partii, ale w środku rozrywki bazował po prostu na przewidywaniu jak największej liczby możliwych konsekwencji każdego ruchu. Są to tak zwane siłowe metody przeszukiwania, zupełnie inne niż finezyjna sieć neuronowa, w którą wyposażony jest AlphaGo.

Innymi słowy: wynalazcy z firmy Deep Mind opracowali sprytny algorytm, wsparcie finansowe Google,a pozwoliło wspomóc go wielką mocą obliczeniową. Powstała maszyna, której nie oparła się nawet najbardziej skomplikowana z gier: go.

Algorytmy w banku i w sądzie

Ludzie wielu zawodów obawiają się, że algorytmy mogą nauczyć się kiedyś ich profesji. Mało kto jednak zdaje sobie sprawę, że programy komputerowe tak naprawdę przejęły już wiele miejsc pracy. Jak podaje czasopismo „New Scientist", w ciągu kilku lat brytyjski operator telefoniczny O2 zastąpił za pomocą algorytmu pracę około 150 operatorów (zredukował ich liczbę o jedną trzecią). Programy wykonują dość prostą pracę polegającą np. na przeklejaniu numerów i nazwisk z jednej bazy danych do drugiej, np. jeśli klient chce zrezygnować z karty przedpłaconej i podpisać stałą umowę. Uczą się tych czynności, obserwując przy pracy żywych operatorów.

O2 korzysta z wielozadaniowych algorytmów firmy Blue Prism. Jej algorytm wykorzystuje też sto innych przedsiębiorstw, wśród których są prawdziwe grube ryby. Blue Prism pomógł na przykład bankowi Barclays załatwi tysiąc skarg od klientów, którym sprzedał ubezpieczenie wbrew ich woli. Gdyby bank nie skorzystał z algorytmu, musiałby na jakiś czas zatrudnić dodatkowych operatorów, a to mu się nie uśmiechało.

Sztuczna inteligencja zaczyna sobie dawać radę również w bardziej prestiżowych zawodach niż konsultant telefoniczny. Kanadyjska firma ROSS napisała program specjalizujący się w poradach prawnych: nie tylko potrafi wyszukiwać paragrafy według słów kluczowych, ale też dać odpowiedź na zadane pytanie. Program wykorzystuje do tego celu superkomputer IBM Watson.

Już dziś komputerowa analiza danych lepiej niż żywy człowiek radzi sobie np. z niektórymi problemami optymalizacji sprzedaży, np. z przewidywaniem, który klient, kupiwszy towar po obniżonej cenie podczas promocji, wróci, by powtórzyć zakup w pełnej cenie. Komputery przewidują także, który student najprawdopodobniej odpadnie z kursu online. Wszystko to dzięki możliwości analizy wielkiej liczby danych, jakiej nie ma człowiek.

Kolejnym bastionem, który zdobędzie sztuczna inteligencja, będzie branża ubezpieczeniowa i kredytowa. Sztuczna inteligencja lepiej niż najlepszy specjalista będzie w stanie przeanalizować wielką ilość danych, by oszacować ryzyko związane ze sprzedażą polisy lub przyznaniem pożyczki. Taką przyszłość tego sektora wieszczy Ya-Qin Zhang, szef koncernu Baidu, chińskiego odpowiednika Google'a.

Rafał Rzepka, polski naukowiec pracujący na japońskim Uniwersytecie Hokkaido, uważa, że sztuczna inteligencja sprawdzi się też w sądach w roli sędziego (lub raczej doradcy sędziego). Jak tłumaczy, maszynę można wyposażyć w zdrowy rozsądek, umiejętność odczytywania emocji oraz w coś w rodzaju zmysłu moralnego, zgodnego z poglądami na dobro i zło panującymi wśród obywateli. Taka maszyna będzie niepodatna na rozmaite uprzedzenia i złe humory, które może mieć żywy sędzia. Rzepka opracował taki program, który zbiera dane dzięki przeszukiwaniu list dyskusyjnych i blogów w internecie.

Z kolei Stuart Russell, profesor informatyki z Uniwersytetu Kalifornijskiego w Berkeley, uważa, że nie tylko prawnicy, ale również lekarze mogą stać się mniej potrzebni dzięki sztucznej inteligencji. Russell twierdzi, że zawodami niezagrożonymi przez sztuczną inteligencję pozostaną za to pielęgniarki i nauczyciele w szkołach podstawowych.

Obaj eksperci są przekonani, że postęp sztucznej inteligencji przyczyni się do dobrobytu ludzkości. Jednocześnie wzywają, by już dziś przyjrzeć się zagrożeniom, jakie mogą wyniknąć z nabywania coraz szerszych umiejętności przez automaty. Te zagrożenia mogą być rozmaite. Zhang zwraca uwagę, że kiedy maszyny zyskują jakieś zdolności, ludzie zazwyczaj talenty te tracą. Już dziś mamy coraz gorszą pamięć, bo polegamy na rozmaitych urządzeniach, które gromadzą dane. Coraz gorzej orientujemy się w przestrzeni dzięki upowszechnieniu GPS. A każdy system komputerowy może ulec awarii. Co wtedy? Jak będziemy funkcjonować, kiedy większość naszych umiejętności przejmą komputery?

Robot na manowcach

Inne zagadnienie, które budzi obawy, to: co się stanie, jeśli coraz bystrzejsze i potężniejsze maszyny wyrwą się spod kontroli? W marcu Microsoft wywołał skandal, udostępniając w sieci swojego czat bota o imieniu Tay, z którym każdy mógł porozmawiać na Twitterze. Po krótkim czasie Tay nauczyła się (Microsoft twierdzi że robot był „nastolatką") od użytkowników internetu rozmaitych zwrotów antysemickich, rasistowskich i sprośnych. Microsoft musiał go wyłączyć i wystosować przeprosiny. Co by było, gdyby na podobne manowce sprowadzony został robot o bardziej ważkich zadaniach niż bawienie internautów luźną rozmową?

Zdecydowanie robot Tay był źle zaprogramowany, ale pokazuje pewną zasadę: sztuczna inteligencja jest emanacją myślenia ludzi. Program miał skłonność do powtarzania wszelkich głupot, lecz możliwe jest podejście, które tej wady jest pozbawione: choćby metoda przywoływanego wcześniej Rafała Rzepki z Uniwersytetu w Hokkaido, którego wyposażony w „zdrowy rozsądek" program ignoruje skrajności i przyjmuje tylko takie reakcje, jakie są w społeczeństwie najbardziej rozpowszechnione. Rozmowa z takim robotem byłaby pewnie nudna i przewidywalna, ale też nie do swobodnych pogawędek Rzepka swoje algorytmy szykuje.