Julius Rosenberg był synem żydowskich imigrantów z Polski, którzy osiedli w Nowym Jorku. Już w wieku 18 lat wstąpił do amerykańskiej Ligi Młodych Komunistów, gdzie poznał Ethel Greenglass, początkującą aktorkę i piosenkarkę, którą niepowodzenia zmusiły do objęcia posady sekretarki w firmie wysyłkowej. Pobrali się, gdy tylko Julius skończył studia inżynierskie w Nowym Jorku i dostał posadę jako cywilny pracownik armii.
Obiecująca kariera została przerwana w 1945 roku, gdy wyszły na jaw związki Rosenberga z komunistami i został wydalony z wojska. Ale już wtedy współpracował od trzech lat z KGB. Był właścicielem małego warsztatu, więc nie był w stanie osobiście zdobywać dla Rosjan żadnych istotnych informacji, jednak pod kierownictwem rosyjskich agentów udało mu się zorganizować sprawną siatkę szpiegowską. Rekrutował inżynierów o poglądach komunistycznych, którzy pracowali dla wojska i przemysłu zbrojeniowego. Udało mu się też zwerbować brata Ethel i pracownika ośrodka jądrowego w Los Alamos Davida Greenglassa.