Jak podkreśla agencja Associated Press, film wzbudził obawy dotyczące możliwości sztucznej inteligencji do wprowadzania w błąd w kampanii wyborczej w USA. Zwłaszcza że Musk nie zaznaczył wyraźnie, że film pierwotnie został wydany jako parodia.
W filmie wykorzystano wiele elementów wizualnych, przypominających reklamę, którą Harris jako prawdopodobna kandydatka Demokratów na prezydenta opublikowała w zeszłym tygodniu. Jednak dźwięk lektora zostaje zastąpiony innym głosem, który w przekonujący sposób podszywa się pod Harris.
Czytaj więcej
„Mamy 107 dni do wyborów. Razem będziemy walczyć. I razem zwyciężymy” – zapowiedziała wiceprezydent USA Kamala Harris w oświadczeniu.
– Ja, Kamala Harris, jestem waszą kandydatką Demokratów na prezydenta, ponieważ Joe Biden wreszcie podczas debaty pokazał swoją starość – mówi głos w nagraniu. Twierdzi, że Harris jest „najemniczką różnorodności”, ponieważ jest kobietą i osobą o innym niż biały kolorze skóry. Twierdzi też, że „nie wie nic o kierowaniu krajem”. W filmie zachowano branding „Harris for President”. Znalazło się w nim także kilka autentycznych klipów z przeszłości wiceprezydent USA.
Mia Ehrenberg, rzeczniczka kampanii Kamali Harris, napisała w e-mailu do Associated Press: „Wierzymy, że Amerykanie chcą prawdziwej wolności, możliwości i bezpieczeństwa, jakie oferuje wiceprezydent Harris; a nie fałszywych, zmanipulowanych kłamstw Elona Muska i Donalda Trumpa”. Odnosi się w ten sposób do faktu, że Musk oficjalnie poparł w wyborach byłego prezydenta Donalda Trumpa, kandydata Partii Republikańskiej.
Sztuczna inteligencja bez przepisów regulujących jej wykorzystywanie
Szeroko udostępniany film jest przykładem tego, jak realistyczne obrazy, filmy i klipy audio wygenerowane przez sztuczną inteligencję zostały wykorzystane zarówno do wyśmiewania, jak i do wprowadzania w błąd na temat polityki podczas wyborów w Stanach Zjednoczonych. Pokazuje też, że wysokiej jakości narzędzia sztucznej inteligencji stały się znacznie bardziej dostępne dla zwykłych użytkowników internetu.
Specjaliści podkreślają, że jak dotąd na szczeblu federalnym brakuje przepisów regulujących ich wykorzystanie. Zasady regulujące sztuczną inteligencję w polityce w USA pozostawione są głównie stanom i platformom mediów społecznościowych.
Czytaj więcej
Miliarder, założyciel Tesli czy SpaceX, Elon Musk zamierza przekazywać miesięcznie ok. 45 mln dolarów na rzecz grupy America PAC, wspierającej kamp...
Pierwszy użytkownik, który opublikował film, YouTuber znany jako Pan Reagan, podkreślił zarówno w YouTube, jak i w serwisie X, że zmanipulowany film jest parodią. Jednak post Muska, który obejrzano ponad 123 miliony razy, zawiera jedynie podpis „To jest niesamowite” ze śmiejącym się emotikonem.
Eksperci specjalizujący się w mediach generowanych przez sztuczną inteligencję sprawdzili dźwięk fałszywej reklamy i potwierdzili, że duża jej część została wygenerowana przy użyciu technologii sztucznej inteligencji.
Jeden z nich, ekspert ds. kryminalistyki cyfrowej Hany Farid z Uniwersytetu Kalifornijskiego w Berkeley, powiedział, że na nagraniu wideo widać wpływ generatywnej sztucznej inteligencji i deepfakes.
Chociaż większość ludzi nie uwierzy, że to głos wiceprezydent Harris, wideo ma o wiele większą moc, gdy słowa są wypowiedziane jej głosem
– Głos generowany przez sztuczną inteligencję jest bardzo dobry – stwierdził. – Chociaż większość ludzi nie uwierzy, że to głos wiceprezydent Harris, wideo ma o wiele większą moc, gdy słowa są wypowiedziane jej głosem.
Dodał, że firmy zajmujące się generatywną sztuczną inteligencją, które udostępniają społeczeństwu narzędzia do klonowania głosu i inne narzędzia sztucznej inteligencji, powinny dołożyć wszelkich starań, aby zapewnić, że ich usługi nie będą wykorzystywane w sposób, który mógłby zaszkodzić demokracji lub poszczególnym osobom.
Fałszywe filmy w technologii deepfake mogą oszukać wyborców
Rob Weissman, współprzewodniczący grupy Public Citizen, twierdzi, że jego zdaniem wideo może oszukać wiele osób.
– Nie sądzę, żeby to był oczywisty żart – powiedział Weissman. – Jestem pewien, że większość ludzi, którzy to oglądają, nie zakłada, że to żart. Jakość nie jest świetna, ale jest wystarczająco dobra. I właśnie dlatego, że nawiązuje do istniejących już tematów, które krążyły wokół niej, większość ludzi uwierzy, że jest to realne.
Czytaj więcej
W badaniu dla CNN, które przeprowadzone zostało przez amerykańską pracownię SSRS, Donald Trump prowadzi nad Kamalą Harris. Jak zauważają media, ryw...
To nie pierwszy przypadek użycia tej technologii podczas wyborów. W 2023 r. na Słowacji fałszywe klipy audio przedstawiały kandydata omawiającego plany sfałszowania wyborów i podniesienia ceny piwa na kilka dni przed głosowaniem. W Luizjanie w 2022 r. w satyrycznej reklamie komitetu akcji politycznej nałożono twarz kandydata na burmistrza Luizjany na aktora, przedstawiając go jako ucznia szkoły średniej osiągającego słabe wyniki.
Kongres nie przyjął jeszcze przepisów dotyczących sztucznej inteligencji w polityce, a agencje federalne podjęły jedynie ograniczone kroki, pozostawiając większość istniejących Stanów Zjednoczonych regulacji dla poszczególnych stanów. Według Krajowej Konferencji Ustawodawców Stanowych ponad jedna trzecia stanów stworzyła własne przepisy regulujące wykorzystanie sztucznej inteligencji w kampaniach i wyborach.
