Człowiek sprowadzony do gołych parametrów

Jedno z możliwych rozwiązań zakłada, że nabywca samochodu sam dokonywałby wyboru, wprowadzając do auta pewne wstępne założenia. W tym sensie brałby na siebie moralną odpowiedzialność. Druga opcja jest taka, że decyzję za człowieka podejmie producent lub urzędnik, nie pozostawiając miejsca na indywidualny wybór, rodzaj „klauzuli sumienia”. Np. wprowadzając jakiś samochód na rynek europejski, zbierze się komisja etyczna, która określi warunki brzegowe dla podejmowania konkretnych decyzji przez komputer pokładowy. Jednak niezależnie od ustalonych norm moralnych, ktoś kto używa tego wehikułu, powinien być świadomy konsekwencji. Bierze za nie moralną odpowiedzialność. To bardzo abstrakcyjne, bo mało kto, wsiadając do samochodu, myśli o tym, że będzie uczestniczył w wypadku samochodowym – szczególnie takim, ze skutkiem śmiertelnym.

Czy moralnie dopuszczalne jest prowadzenie badań nad rozwojem algorytmów, które mają dotyczyć decyzji o życiu ludzkim?

Jedynie w sytuacji, w której jesteśmy skazani na to, żeby wartościować ludzkie życie. Z punktu widzenia władz publicznych lub wizerunku firmy, utylitaryzm, redukujący liczbę ofiar, staje się najbardziej czytelnym kryterium. Wygląda neutralnie światopoglądowo, chociaż nie wydaje mi się, żeby taki był. Główną zasadą sterującą algorytmami maszyny, stałoby się więc minimalizowanie cierpienia. Trudno też stwierdzić, na ile taki algorytm jest technicznie możliwy do zrealizowania. Nawet jeżeli jeszcze nie da się tego zrobić, to pewnie niedługo będzie to możliwe.

- rozmawiał Jan Ziętara