Chatbot miał stosować mowę nienawiści również wobec niepełnosprawnych i ruchu #MeToo.
Lee Luda to chatbot opracowany przez firmę Scatter Lab z Seulu, który zaprojektowano tak, by działał w ramach aplikacji Facebook Messenger.
Internauci cenili chatbota za jego "spontaniczne i naturalne reakcje". W interakcję z nim weszło od czasu uruchomienia go pod koniec grudnia 750 tysięcy osób.
Chatbot "uczył się" konwersacji analizując dane zebrane z 10 mld rozmów prowadzonych w Kakao Talk, popularnym w Korei Południowej komunikatorze.
Dość szybko pojawiły się oskarżenia chatbota o to, że ten używa mowy nienawiści wobec kobiet, mniejszości etnicznych oraz seksualnych.
W jednej z konwersacji Lee Luda stwierdziła, że "gardzi gejami i lesbijkami". W innej przekonywała, że "nienawidzi" czarnoskórych.
Na pytanie o osoby transpłciowe Lee Luda stwierdziła, że "nie lubi ich".
W kolejnej rozmowie nazwała osoby stojące za ruchem #MeToo "ignorantami". "Absolutnie nimi pogardzam" - dodała.
Chatbot przekonywał też, że wolałby umrzeć niż być osobą niepełnosprawną.
Twórcy chatbota przeprosili za zachowanie sztucznej inteligencji podkreślając, że "nie oddaje ono wartości firmy". Przedstawiciele firmy przyznali, że starali się wyeliminować tego typu wypowiedzi w czasie sześciomiesięcznych testów przed uruchomieniem chatbota - ale, jak się okazało, bez powodzenia.
"Lee Luda jest sztuczną inteligencją podobną do dziecka, które uczy się konwersacji" - wyjaśniła firma.
Teraz twórcy chatbota chcą "nauczyć go dokonywać osądu co do tego, które odpowiedzi są odpowiednie".
