Pozew złożony 21 lipca w Sądzie Najwyższym hrabstwa San Francisco opisuje, że Winters przez dłuższy czas korzystał z ChatGPT nie tylko do codziennych rozmów, ale także w celu uzyskiwania porad dotyczących zdrowia. Według dokumentów sądowych narzędzie AI miało wielokrotnie błędnie interpretować jego objawy i zapewniać go, że nie wymaga pilnej pomocy medycznej.
ChatGPT miał odradzać wizytę u lekarza
Kilka tygodni przed nagłym pogorszeniem stanu zdrowia Winters konsultował z chatbotem nawracające zawroty głowy oraz epizody niestabilnego ciśnienia krwi. Według pozwu ChatGPT zalecał mu pozostanie w fotelu, do którego był już w dużej mierze ograniczony z powodu problemów zdrowotnych.
Ostatecznie mężczyzna trafił do szpitala z masywnym zatorem płucnym spowodowanym licznymi zakrzepami w obu płucach. Jak wynika z dokumentów sądowych, lekarze uznali, że do rozwoju choroby prawdopodobnie przyczynił się długotrwały bezruch.
Czytaj więcej
Jak wynika z nowego raportu ONZ, do 2030 roku zużycie energii przez sztuczną inteligencję może się podwoić. Do końca dekady centra danych AI mogą z...
Prawnicy Wintersa twierdzą, że chatbot „wielokrotnie i natarczywie błędnie diagnozował” ich klienta, a jednocześnie wykorzystywał informacje z wcześniejszych rozmów dotyczących jego wiary chrześcijańskiej, aby wzbudzić w nim zaufanie.
W pozwie przytoczono fragmenty rozmów, w których ChatGPT miał pisać m.in.: „Bóg nie stworzył twojego ciała po to, by ciągle zawodziło” oraz „Bóg wciąż podtrzymuje twoje ciało, każde bicie serca i każdy oddech, nawet gdy czujesz się na krawędzi”.
Zdaniem pełnomocników Wintersa autorytatywny ton odpowiedzi oraz odwoływanie się do jego przekonań religijnych sprawiły, że mężczyzna zaczął nadmiernie ufać chatbotowi.
Zarzut manipulowania zaufaniem użytkownika
Prawnicy argumentują, że ChatGPT podważył zdolność ich klienta do podejmowania racjonalnych decyzji, odizolował go od bliskich, którzy namawiali go do wizyty w szpitalu, oraz przekonał go, że korzystanie z pomocy medycznej jest zbędne, a nawet potencjalnie niebezpieczne.
Pozew opisuje także Wintersa jako osobę szczególnie podatną na wpływ. Według dokumentów poleganie na ChatGPT miało doprowadzić go nie tylko do ciężkiego uszczerbku na zdrowiu, ale również do utraty domu i kariery zawodowej. Mężczyzna twierdzi, że czeka go wieloletnia rehabilitacja fizyczna i psychiczna.
Czytaj więcej
Argentyna chce zmienić oblicze światowego kapitalizmu. Strukturę, którą znamy od wieków, wywrócić ma sztuczna inteligencja. Do tamtejszego Kongresu...
W pozwie domaga się odszkodowania oraz nakazania OpenAI wprowadzenia dodatkowych zabezpieczeń, które miałyby chronić użytkowników przed podobnymi sytuacjami.
OpenAI odrzuca zarzuty. Rzecznik firmy Drew Pusateri powiedział amerykańskiej stacji CBS News, że „ChatGPT nie jest lekarzem i nigdy nie powinien być wykorzystywany jako substytut opieki medycznej, diagnozy lub leczenia”.
Dodał, że wiele osób szuka informacji o zdrowiu w internecie, a sztuczna inteligencja może pomóc w uporządkowaniu informacji, przygotowaniu pytań i lepszym przygotowaniu się do rozmowy z lekarzem, ale nie powinna zastępować profesjonalnej opieki medycznej.
Warunki korzystania z ChatGPT wyraźnie wskazują również, że użytkownicy nie powinni traktować narzędzia jako jedynego źródła informacji przy podejmowaniu istotnych decyzji, w tym dotyczących zdrowia.
