Fałszywe zdjęcia Taylor Swift krążą po sieci. Kontrowersyjne grafiki zrobiła AI

Stworzone przez sztuczną inteligencję pornograficzne zdjęcia Taylor Swift zalały media społecznościowe. Szkodliwy potencjał AI ujawnia się z całą siłą.

Publikacja: 26.01.2024 17:19

Fałszywe zdjęcia Taylor Swift krążą po sieci. Kontrowersyjne grafiki zrobiła AI

Foto: AFP

Taylor Swift bez własnego udziału stała się główną bohaterką zdjęć, które krążyły głównie po serwisie X, znanym dawniej jako Twitter. Przedstawiające gwiazdę muzyki w jednoznacznie seksualnych pozach zdjęcia powstały tylko i wyłącznie przy udziale sztucznej inteligencji. Nim zostały usunięte wyświetlono je wiele milionów razy. W internecie nic nie ginie, więc można być pewnym, że pojawią się na mniej moderowanych kanałach komunikacji.

Ciemna strona sztucznej inteligencji 

Incydent przyciągnął uwagę opinii publicznej do szkodliwego potencjału sztucznej inteligencji w tworzeniu fałszywek w momencie, w którym w USA rozpoczyna się rok wyborów prezydenckich. W związku z nimi narastają obawy przed dezinformacją i tworzonymi przez sztuczną inteligencję obrazami i filmami, których nie będzie można odróżnić od prawdziwych.

Czytaj więcej

Kim Dzong Un ma nowe niebezpieczne narzędzie. To sztuczna inteligencja

- To doskonały przykład sposobu, w jaki AI może być uwalniana z wielu nikczemnych powodów, jeżeli brakuje barier dla ochrony przestrzeni publicznej – powiedział CNN Ben Decker z firmy Memetica, która jest cyfrową agencją dochodzeniową.

Decker uważa, że media społecznościowe nie mają, tak naprawdę, skutecznych planów monitorowania treści w sytuacji, w której narzędzia AI mogące posłużyć do tworzenia potencjalnie szkodliwych treści szybko nabierają popularności.

Social media źle moderują treści

Na przykład X (d. Twitter) w dużej mierze zredukował swój zespół moderatorów i polega na zautomatyzowanych systemach i doniesieniach użytkowników. W efekcie w Unii Europejskiej należący do Elona Muska serwis jest obecnie pod lupą z powodu tego, jak moderuje treści w serwisie. W którym notabene można bez problemu znaleźć nagrania np. z frontu ukraińsko-rosyjskiego, na których widać poszarpane zwłoki żołnierzy rosyjskich lub ukraińskich, czy zbliżenia na umierających ciężko rannych żołnierzy zalanych krwią.

Również Meta (Facebook, Instagram) ma nie przykładać się do moderowania treści. CNN uzyskała od osób znających temat informacje, że koncern Marka Zuckerberga ściął zatrudnienie w zespołach zajmujących się walką z dezinformacją czy koordynowanymi kampaniami nękania i trollingu.

Obrazy fałszowane praktycznie bezkarnie 

Nie wiadomo, skąd wzięły się w mediach społecznościowych zdjęcia z fałszywą Taylor Swift, jednak w internecie można znaleźć nie tylko moderowane — przynajmniej nominalnie narzędzia - takie jak Midjourney czy Fotor. Wiele narzędzi dostępnych jest na zasadzie open source i można w nich wygenerować w zasadzie wszystko, co podpowie wyobraźnia.

Tego typu technologia (np. deepfake) jest już od dawna znana w użyciu do tzw. revenge porn (pornozemsty), gdzie używane są fałszywe obrazy bez zgody zainteresowanej osoby w kontekście, którego z pewnością sobie by nie życzyła. Teoretycznie w coraz większej liczbie państw obowiązują przepisy pozwalające ścigać takie przestępstwa, ale egzekwowanie prawa napotyka trudności.

Biznes
Skarbówka ściągnęła z TVN wysoką karę KRRiT za reporaż o Karolu Wojtyle
Biznes
Sieci 5G w Polsce zrównały zasięg
Biznes
System kaucyjny zbudują sprytni, a nie duzi, gracze
Biznes
Praktycznie o przyszłości otwartego oprogramowania. Konferencja Open Source Day 2024 już 18 kwietnia
Materiał Promocyjny
Jak kupić oszczędnościowe obligacje skarbowe? Sposobów jest kilka
Biznes
Są unijne kary za łamanie sankcji wobec Rosji. Więzienie i ogromne grzywny