Korea Płd.: Sztuczna inteligencja oskarżona o seksizm. Chatbot wyłączony

Popularny południowokoreański chatbot z "osobowością" 20-letniej studentki został wyłączony w tym tygodniu po oskarżeniu go o stosowanie mowy nienawiści wobec kobiet i mniejszości etnicznych.

Aktualizacja: 14.01.2021 13:18 Publikacja: 14.01.2021 13:04

Korea Płd.: Sztuczna inteligencja oskarżona o seksizm. Chatbot wyłączony

Foto: Scatter Lab

arb

Chatbot miał stosować mowę nienawiści również wobec niepełnosprawnych i ruchu #MeToo.

Lee Luda to chatbot opracowany przez firmę Scatter Lab z Seulu, który zaprojektowano tak, by działał w ramach aplikacji Facebook Messenger.

Internauci cenili chatbota za jego "spontaniczne i naturalne reakcje". W interakcję z nim weszło od czasu uruchomienia go pod koniec grudnia 750 tysięcy osób.

Chatbot "uczył się" konwersacji analizując dane zebrane z 10 mld rozmów prowadzonych w Kakao Talk, popularnym w Korei Południowej komunikatorze.

Dość szybko pojawiły się oskarżenia chatbota o to, że ten używa mowy nienawiści wobec kobiet, mniejszości etnicznych oraz seksualnych.

W jednej z konwersacji Lee Luda stwierdziła, że "gardzi gejami i lesbijkami". W innej przekonywała, że "nienawidzi" czarnoskórych.

Na pytanie o osoby transpłciowe Lee Luda stwierdziła, że "nie lubi ich".

W kolejnej rozmowie nazwała osoby stojące za ruchem #MeToo "ignorantami". "Absolutnie nimi pogardzam" - dodała.

Chatbot przekonywał też, że wolałby umrzeć niż być osobą niepełnosprawną.

Twórcy chatbota przeprosili za zachowanie sztucznej inteligencji podkreślając, że "nie oddaje ono wartości firmy". Przedstawiciele firmy przyznali, że starali się wyeliminować tego typu wypowiedzi w czasie sześciomiesięcznych testów przed uruchomieniem chatbota - ale, jak się okazało, bez powodzenia.

"Lee Luda jest sztuczną inteligencją podobną do dziecka, które uczy się konwersacji" - wyjaśniła firma.

Teraz twórcy chatbota chcą "nauczyć go dokonywać osądu co do tego, które odpowiedzi są odpowiednie".

Materiał Promocyjny
Kod Innowacji - ruszył konkurs dla firm stawiających na nowe technologie w komunikacji z konsumentami
https://track.adform.net/adfserve/?bn=77855207;1x1inv=1;srctype=3;gdpr=${gdpr};gdpr_consent=${gdpr_consent_50};ord=[timestamp]
Materiał Promocyjny
Polska na czele rewolucji technologii kwantowych
Nowe technologie
Niewykrywalny bombowiec strategiczny Sił Powietrznych USA odbył pierwszy lot
Nowe technologie
Co mówią kury? Naukowcy opracowali tłumacza, użyli sztucznej inteligencji
Materiał Promocyjny
Bank Pekao wchodzi w świat gamingu ze swoją planszą w Fortnite
Nowe technologie
Prof. Zybertowicz: AI może potraktować ludzkość jak budowniczy autostrad traktują mrowiska