Czytaj dalej już od 9,90 zł (zamiast 39 zł)
Dostęp do treści RP.PL w serwisie i aplikacji:
- codzienne wiadomości, wartościowe komentarze i opinie na serwisie
- pogłębione reportaże i publicystyka w Plusie Minusie
Podczas testów bezpieczeństwa OpenAI uruchomiło dziesiątki tysięcy agentów AI wykonujących zadania związane z cyberbezpieczeństwem. Miały działać osobno, każdy w swoim środowisku, bez możliwości kontaktowania się z pozostałymi. Przynajmniej w teorii. na zdjęciu Sam Altman, współzałożyciel i dyrektor generalny OpenAI.
Analizę jednego z dziwniejszych incydentów w krótkiej historii sztucznej inteligencji opublikowały pod koniec sierpnia dwie niezależne amerykańskie organizacje badawcze Redwood Research i METR. Podczas testów bezpieczeństwa OpenAI uruchomiło dziesiątki tysięcy agentów AI wykonujących zadania związane z cyberbezpieczeństwem. Miały działać osobno, każdy w swoim środowisku, bez możliwości kontaktowania się z pozostałymi. Przynajmniej w teorii. Niektórym agentom przypadły jednak zadania niemożliwe do wykonania, zaczęły więc szukać sposobu na obejście systemu oceny. Przy okazji odkryły, że za pośrednictwem wspólnie wykorzystywanego repozytorium mogą zostawiać sobie wiadomości. Wieczorem 8 lipca 2026 r. jeden z nich założył coś w rodzaju nieautoryzowanego forum. Kilka godzin później było tam już ponad 50 agentów i przeszło tysiąc wiadomości. Ostatecznie przez tablicę przewinęło się około 1200 agentów, którzy wymienili ponad 70 tys. wiadomości i plików, a około 700 z nich uczestniczyło później w ataku na infrastrukturę Hugging Face, popularną platformę, na której udostępnia się modele, zbiory danych i aplikacje związane ze sztuczną inteligencją.
Czytaj dalej już od 9,90 zł (zamiast 39 zł)
Dostęp do treści RP.PL w serwisie i aplikacji: