Sztuczna inteligencja lubi kłamać. Bolesne wpadki firm

Bot wprowadzony przez Nowy Jork doradzał firmom łamanie prawa, zaś AI firmy kurierskiej DPD naśmiewała się z niej, nazywając najgorszą na świecie.

Publikacja: 06.05.2024 16:50

Sztuczna inteligencja ma poważną słabość. Kiedy nie zna odpowiedzi na zadane pytanie, często zaczyna

Sztuczna inteligencja ma poważną słabość. Kiedy nie zna odpowiedzi na zadane pytanie, często zaczyna zmyślać

Foto: AdobeStock

Chatbot miasta Nowy Jork od samego początku zaczął namawiać ich do łamania prawa i naginania przepisów. Mimo to władze Nowego Jorku odmówiły usunięcia go ze strony miasta. O problemach poinformował serwis technologiczny The Markup, jednak miasto zdecydowało się pozostawić narzędzie na swojej oficjalnej stronie internetowej. Burmistrz Eric Adams bronił tej decyzji, przyznając jednak, że odpowiedzi chatbota były „błędne w niektórych obszarach”.

Uruchomiony w październiku jako „punkt kompleksowej obsługi” dla właścicieli firm, chatbot oferuje użytkownikom generowane algorytmicznie odpowiedzi tekstowe na pytania dotyczące poruszania się w biurokratycznym labiryncie miasta. Miasto ostrzega jednak, że może on „sporadycznie generować nieprawidłowe, szkodliwe lub stronnicze” informacje oraz zastrzega, że jego odpowiedzi nie stanowią porady prawnej.

Pozostało 88% artykułu

Dostęp do artykułu wymaga aktywnej subskrypcji!

Kontynuuj czytanie tego artykułu w ramach subskrypcji rp.pl

Na bieżąco o tym, co ważne w kraju i na świecie. Rzetelne informacje, różne perspektywy, komentarze i opinie. Artykuły z Rzeczpospolitej i wydania magazynowego Plus Minus.

Technologie
„Ojciec chrzestny AI": Sztuczna inteligencja zabierze pracę. Stała kwota dla każdego
Technologie
Mocarstwa testują działa elektromagnetyczne. Spektakularna porażka Chin
Technologie
Naukowcy odkryli, jak usuwać „wieczne chemikalia”. Zaskakujące rozwiązanie z USA
Technologie
Polski start-up rozpycha się w kosmosie. Wysyłają sztuczną inteligencję z ważną misją
Technologie
Napęd WARP ze Star Treka to nie science fiction. Otwarcie wrót do podboju kosmosu