Obawy przed gwałtownym i niekontrolowanym rozwojem sztucznej inteligencji (AI) nabrały realnych kształtów. Dokumenty zebrane przez Future of Life Instytute wskazują, że nowe technologie mogą nie tylko wpłynąć na zmniejszenie miejsc pracy, ale nawet — w dłuższej perspektywie — zagrozić istnieniu naszego gatunku.
„Istnieje powszechna zgoda co do tego, że tempo rozwoju AI przyspiesza, a wpływ tej technologii na społeczeństwo zapewne będzie również rósł" — piszą autorzy listu otwartego. „Potencjale korzyści są ogromne, ponieważ wszystko co nasza cywilizacja ma do zaoferowania bazuje na ludzkiej inteligencji. Jednak nie możemy przewidzieć co możemy osiągnąć, gdy nasza inteligencja zostanie wzmocniona przez narzędzia, jakie daje AI. Zniesienie ubóstwa, czy chorób wcale nie wydaje się niemożliwe. Ale z powodu wielkich możliwości sztucznej inteligencji konieczne jest zbadanie tego, w jaki sposób z niej skorzystać unikając jednocześnie potencjalnych wpadek".
Pod listem obecnie znajduje się ponad 100 podpisów. W akcji biorą udział m.in. znani krytycy rozwoju sztucznej inteligencji (AI) — fizyk Stephen Hawking i przedsiębiorca Elon Musk. Już wcześniej w niedwuznacznych słowach zwracali uwagę na zagrożenie wynikające z powszechnego korzystania z systemów eksperckich. Według Hawkinga nietrudno sobie wyobrazić technologię, która przechytrzyłaby rynki finansowe, wywiodłaby w pole światowych przywódców, czy opracowałaby broń, której działania nie bylibyśmy nawet w stanie zrozumieć. Wraz z innymi naukowcami, Hawking uważa, że bardzo rozwinięta sztuczna inteligencja może być nie tylko największym dokonaniem w historii ludzkości, ale także ostatnim, jeśli nie nauczymy się jak uniknąć zagrożeń.
Elon Musk — który dzięki nowym technologiom doszedł do wielkich pieniędzy — również nie przebiera w słowach mówiąc o sztucznej inteligencji. Efekty jej działania porównywał nawet t bronią atomową. - Razem ze sztuczną inteligencją przyzywamy demona — mówił podczas jednego ze spotkań ze studentami. — Pamiętacie te wszystkie historie z facetem, święconą wodą i pentagramem. Był przekonany, że potrafi kontrolować demona. A zawsze okazywało się, że to nie działało.
— Coraz bardziej skłaniam się do pomysłu, że powinno być jakieś ciało kontrolne na poziomie krajowym lub nawet międzynarodowym, które będzie sprawdzać, czy nie robimy czegoś bardzo głupiego — perorował Musk podczas wykładu na uczelni MIT.