Wasilij Grossman bardzo chciał zostać pisarzem, choć do pewnego momentu wyglądało, że pójdzie w ślady ojca, inżyniera chemika. Po studiach chemicznych podjął pracę w instytucie naukowo-badawczym w Makiejewce, zajmując się bezpieczeństwem prac górniczych. W Donbasie mieszkał do roku 1933.
W 1931 roku rozwiódł się z żoną Galiną. To jednak, co miało zaważyć na reszcie życia Grossmana, stało się w marcu 1934 r. Jego opowiadanie „W mieście Berdyczowie" (znany jest film „Komisarz" Askoldowa zrealizowany na motywach tego opowiadania) zachwyciło Gorkiego, który namaścił autora na zawodowego pisarza. Mniej podobała mu się powieść „Glikauf", produkcyjniak o ludziach Donbasu i ich pracy, ale i ona została opublikowana.
Świeżo upieczony prozaik zabrał się do kolejnej książki – „Stiepan Kolczugin", zaczął też sztukę teatralną, wreszcie zakochał się. W żonie przyjaciela, też pisarza, Borisa Hubera, Oldze Michajłownie Huber, która dla Wasilija zostawiła nie tylko męża, ale i synów – Miszę i Fiedię.
Fiodor Huber, który po latach w 2005 roku, posiłkując się listami Grossmana, napisał książkę o nim – „Wasilij Grossman. Pamięć i listy", wspomina, że jako dziecko, gdy mama przychodziła odwiedzić synów, krzyczał: „Wszyscy mają dobre mamy, tylko ja – złą!". Dramatyczna sytuacja rozwiązała się w typowo sowiecki sposób. 20 czerwca 1937 roku Boris Huber został aresztowany z innymi członkami grupy literackiej „Pieriewał"; 13 sierpnia skazano go na rozstrzelanie, wyrok wykonano natychmiast. Zagrożony był i sam Grossman, ale pieriewałowcy niczym go nie obciążyli. Aresztowana została natomiast Olga, choć jeszcze w 1936 r. rozwiodła się z mężem i wyszła za mąż za Grossmana. „Zgodnie z rozkazem Jeżowa – przypomina Fiodor Huber – aresztowaniu podlegały »również żony rozwiedzione ze skazanymi, które jednak wiedząc o kontrrewolucyjnej działalności aresztowanych, nie poinformowały o tym odpowiednich organów władzy«. Żony podlegały karze obozu o długości zależnej od stopnia zagrożenia społecznego, od pięciu do ośmiu lat". Dzieci trafić miały do domów dziecka, zresztą różnych. Wtedy Grossman zabrał chłopców do siebie, formalnie załatwił opiekę nad nimi, a dzięki staraniom i listom do wszystkich możliwych instancji, w tym do Jeżowa i Kalinina, uzyskał zwolnienie żony, co powszechnie uznane zostało za cud.
„Dla Grossmana obaj byliśmy synami, oficjalnie nas jednak nie usynowił, gdyż oznaczałoby to, że wyrzekliśmy się aresztowanego ojca" – pisze Fiodor Huber.
Gdy Wasilij Grossman został korespondentem wojennym „Krasnej Zwiezdy", Fiedię i Miszę wraz z innymi dziećmi pisarzy Litfond (instytucja zajmująca się pomocą materialną dla członków Związku Pisarzy ZSRS) wysłał na obóz pionierski, następnie zostali oni przewiezieni do internatu w Czystopolu. W ślad za chłopcami przyjechała ich matka, wynajęła mieszkanie, wzięła młodszego syna do siebie, starszy został w internacie.
7 stycznia 1942 r. Grossman pisze do Olgi: „Wczoraj dowiedzieliśmy się szczegółów śmierci Gajdara. Zginął w walce, walczył z niezwykłym męstwem – starzy frontowcy z zachwytem i wręcz uwielbieniem opowiadali o jego zdumiewających wyczynach... Lusieńka, pamiętasz Gajdara? Nasz wspólny spacer do wąwozu Uczkożskiego, przeprawę przez strumień? Miły, choć trudny we współżyciu Gajdar".