Producenci systemów wykorzystujących sztuczną inteligencję (AI) odpowiedzą za szkody psychiczne wyrządzone użytkownikom np. przez ChatGPT. Takie zmiany przewiduje projekt nowelizacji przepisów o produktach niebezpiecznych w kodeksie cywilnym. Odszkodowania będzie można domagać się jednak wyłącznie w przypadku „uznanego medycznie uszczerbku na zdrowiu psychicznym”, a nie subiektywnego przekonania o krzywdzie emocjonalnej.
Nowelizacja wdraża unijną dyrektywę 2024/2853. Odpowiedzialne za jej implementację Ministerstwo Sprawiedliwości (MS) podkreśla, że obowiązujące dziś przepisy są przestarzałe. Projektowano je bowiem z myślą o tradycyjnych (nie zaś cyfrowych) usługach, przy założeniu, że producent odpowiada za wady przedmiotu powstałe przed jego wypuszczeniem na rynek.
Czytaj więcej:
Rządowe serwery nie wytrzymały lawinowego zainteresowania tych, którzy w ostatniej chwili zdecydowali się na dopełnienie wymaganych przepisami form...
Pro
Dziś sytuacja wygląda inaczej. „W przypadku wielu produktów producent zachowuje możliwość oddziaływania na ich funkcjonowanie także po sprzedaży, między innymi poprzez aktualizacje oprogramowania, zdalne modyfikacje lub integrację nowych funkcjonalności. Aktualne przepisy nie przewidują jednak podstaw do przypisania odpowiedzialności za niebezpieczne właściwości, które powstały po wprowadzeniu produktu do obrotu wskutek działań samego producenta” – wskazuje resort w OSR do projektu ustawy.
- mniej więcej tylu biegłych sądowych jest dziś w Polsce (źródło: OSR do projektu ustawy o biegłych sądowych )
Próżno więc na krajowym podwórku szukać przykładów pozwów wytaczanych cyfrowym gigantom przez osoby, które na skutek szkodliwej działalności algorytmu popadły np. w zaburzenia odżywiania albo zmagają się z lękami społecznymi. Na świecie są już takie precedensy. W marcu sąd w Los Angeles uznał spółkę Meta (właścicielkę m.in. Facebooka i Instagrama) za odpowiedzialną za szkody psychiczne wywołane u dziewczynki, a dziś 20-letniej kobiety. Przygotowana przez MS nowelizacja otwiera drzwi do podobnych pozwów również w Polsce.
Kto oceni związek między chatbotem a chorobą
Choć w samym projekcie oraz uzasadnieniu do niego nie ma mowy o sędziach i biegłych, to właśnie na ich barki spadnie ciężar praktycznej interpretacji nowych przepisów. W teorii sprawa jest prosta. Konsument doznaje szkody psychicznej np. zaczyna cierpieć na depresję, stwierdza, że wywołały ją rozmowy z chatem zasilanym przez generatywną sztuczną inteligencję i występuje do sądu z pozwem o odszkodowanie. Praktyka rodzi jednak szereg problemów. Sędziowie i służący im opiniami biegli będą musieli ocenić m.in. to, czy np. depresja jest następstwem „rozmów” z AI.
– Szkoda psychiczna ma być uznawana w naukach medycznych i poświadczona przez lekarza, wpływać na ogólny stan zdrowia poszkodowanego i potencjalnie wymagać terapii lub leczenia. Projektodawca wyraźnie wyłącza natomiast tzw. szkody czysto emocjonalne. To oznacza, że już na poziomie wykazania szkody prawdopodobnie zasadnicze znaczenie będzie miała dokumentacja medyczna oraz dowód z opinii biegłego, przede wszystkim psychiatry, ewentualnie uzupełniony opinią psychologa – komentuje dr Anna Banaszewska, radca prawny.
Czytaj więcej
Projekt ustawy o biegłych sądowych oraz instytucjach opiniujących wymaga gruntownej poprawy. To wniosek z lektury kolejnej porcji krytycznych uwag...
Jeszcze trudniej będzie w przypadku pogorszenia się stanu zdrowia już chorującego użytkownika AI.
– Biegły będzie musiał odróżnić uszczerbek na zdrowiu psychicznym od stresu czy przejściowego pogorszenia samopoczucia, a następnie ocenić jego możliwe przyczyny, uwzględniając m.in. wcześniejszy stan pacjenta, przebieg choroby czy równoległe leczenie – mówi radca prawny Jolanta Pietrkiewicz-Knecht.
– W praktyce pytanie może brzmieć nie tyle: „czy można ze stuprocentową pewnością wykazać, że AI spowodowało zaburzenie?”, ile: „czy stwierdzony u poszkodowanego rozstrój zdrowia jest tego rodzaju, jaki zwykle może być następstwem ustalonej niebezpiecznej właściwości tego systemu?” I właśnie tutaj opinia biegłego będzie miała fundamentalne znaczenie – podkreśla dr Banaszewska.
Nasza rozmówczyni wskazuje, że projektowane przepisy z uwagi na tzw. obniżony standard dowodowy ułatwią wykazanie odpowiedzialności producenta. Jeżeli powód uprawdopodobni niebezpieczny charakter produktu lub związek przyczynowy między szkodą a działaniem produktu, ale ich pełne udowodnienie będzie nadmiernie utrudnione np. z powodów technicznych, to sąd będzie mógł uznać te fakty za ustalone.
Co sąd zbada w sprawie przeciw twórcy chatbota
– Jeżeli źródłem szkody jest produkt wykorzystujący AI, konieczna może być również ocena sposobu działania samego systemu. Nabiera to znaczenia w świetle projektowanego domniemania niebezpieczności produktu, jeżeli szkoda została spowodowana jego oczywiście nieprawidłowym działaniem w zwykłych lub rozsądnie przewidywalnych warunkach używania. W przypadku AI ocena takiego działania może wymagać analizy m.in. danych wejściowych, aktualizacji czy zdolności systemu do dalszego uczenia się – stwierdza mec. Pietrkiewicz-Knecht.
Zadaniem sądu będzie ustalenie tego, czy firma stojąca za produktem wykorzystującym AI zapewniała bezpieczeństwo w granicach rozsądnych oczekiwań. Anna Banaszewska wylicza, że sędzia będzie musiał wziąć pod uwagę m.in. projekt i cechy techniczne produktu, sposób jego prezentacji, przewidywalny sposób używania, kategorię użytkowników, a – co szczególnie istotne dla AI – również zdolność produktu do uczenia się lub nabywania nowych cech po wprowadzeniu do obrotu.
Czytaj więcej
Eksperci zbadali 200 produktów sprzedawanych w polskiej sieci. Okazało się, że sztuczna inteligencja ingeruje w decyzje zakupowe Polaków, wprowadza...
– Przykładowo, w sprawie dotyczącej chatbota sąd mógłby badać, czy jego konstrukcja powodowała przewidywalne generowanie treści mogących prowadzić do określonego zagrożenia dla zdrowia psychicznego, czy producent przewidział odpowiednie zabezpieczenia, jak system reagował na użytkownika znajdującego się w sytuacji kryzysowej i czy zachowanie modelu mieściło się w rozsądnie oczekiwanym poziomie bezpieczeństwa. Można zatem spodziewać się potrzeby opinii interdyscyplinarnej: konieczna będzie ocena mechanizmu działania systemu AI i jego zachowanie, charakter szkody i medyczną możliwość jej powstania w opisanych okolicznościach – konkluduje Anna Banaszewska.
Etap legislacyjny: konsultacje publiczne
