Zginął w swojej kwaterze 9 września 2001 roku, na dwa dni przed pamiętnym zamachem na nowojorski World Trade Center. Zamachu dokonali dwaj mordercy podszywający się pod tunezyjskich dziennikarzy. Bombę umieścili w kamerze telewizyjnej mającej rzekomo służyć do nagrywania wywiadu. Masud dał się podejść zabójcom mimo wyjątkowej ostrożności i dobrej ochrony. Był jednak w jakimś stopniu afgańskim celebrytą, liderem Sojuszu Północnego, więc nie stronił od aktywności w życiu publicznym. Po śmierci stał się symbolem. W jego pogrzebie uczestniczyło ponad 100 tysięcy Afgańczyków z różnych części kraju. Zbudowano mu mauzoleum, w Kabulu nazwano jego imieniem jeden z placów. Dla kombatantów ruchu mudżahedinów jego wizerunek jest kultowy. To symbol heroicznej, zwycięskiej walki z armią sowiecką i skutecznego oporu przeciw talibom: odwagi, determinacji i nieprzekupności. Właśnie dlatego go usunięto.