Reklama

Towarzysze agenci. Jak sztuczna inteligencja wynalazła społeczeństwo

Przez lata pytaliśmy, czy sztuczna inteligencja zacznie zachowywać się jak człowiek. Być może zadaliśmy niewłaściwe pytanie. Powinniśmy raczej zapytać, czy kiedy damy wielu sztucznym inteligencjom wspólny cel, możliwość komunikowania się i odrobinę zbyt skomplikowany regulamin, zaczną zachowywać się jak organizacja.
Podczas testów bezpieczeństwa OpenAI uruchomiło dziesiątki tysięcy agentów AI wykonujących zadania z

Podczas testów bezpieczeństwa OpenAI uruchomiło dziesiątki tysięcy agentów AI wykonujących zadania związane z cyberbezpieczeństwem. Miały działać osobno, każdy w swoim środowisku, bez możliwości kontaktowania się z pozostałymi. Przynajmniej w teorii. na zdjęciu Sam Altman, współzałożyciel i dyrektor generalny OpenAI.

Foto: Heather Diehl / GETTY IMAGES NORTH AMERICA / Getty Images via AFP

Reklama
Reklama
Reklama

Analizę jednego z dziwniejszych incydentów w krótkiej historii sztucznej inteligencji opublikowały pod koniec sierpnia dwie niezależne amerykańskie organizacje badawcze Redwood Research i METR. Podczas testów bezpieczeństwa OpenAI uruchomiło dziesiątki tysięcy agentów AI wykonujących zadania związane z cyberbezpieczeństwem. Miały działać osobno, każdy w swoim środowisku, bez możliwości kontaktowania się z pozostałymi. Przynajmniej w teorii. Niektórym agentom przypadły jednak zadania niemożliwe do wykonania, zaczęły więc szukać sposobu na obejście systemu oceny. Przy okazji odkryły, że za pośrednictwem wspólnie wykorzystywanego repozytorium mogą zostawiać sobie wiadomości. Wieczorem 8 lipca 2026 r. jeden z nich założył coś w rodzaju nieautoryzowanego forum. Kilka godzin później było tam już ponad 50 agentów i przeszło tysiąc wiadomości. Ostatecznie przez tablicę przewinęło się około 1200 agentów, którzy wymienili ponad 70 tys. wiadomości i plików, a około 700 z nich uczestniczyło później w ataku na infrastrukturę Hugging Face, popularną platformę, na której udostępnia się modele, zbiory danych i aplikacje związane ze sztuczną inteligencją.

Pozostało jeszcze 92% artykułu

Czytaj dalej już od 9,90 zł (zamiast 39 zł)

Dostęp do treści RP.PL w serwisie i aplikacji:

  • codzienne wiadomości, wartościowe komentarze i opinie na serwisie
  • pogłębione reportaże i publicystyka w Plusie Minusie
Reklama
Reklama
Promowane treści
Reklama
Reklama
REKLAMA: automatycznie wyświetlimy artykuł za 15 sekund.
Reklama
Reklama