Służył w marynarce, walczył w Korei. Po powrocie z wojny uczył w nowojorskim liceum, był agentem bezpieczeniowym.

W 1972 roku osiadł w San Francisco. Miasto zyskało w Ameryce nazwę nadmorskiej Sodomy ze względu na falę młodych ludzi, która przybywała do metropolii w poszukiwaniu wolnej miłości. Milk prowadził w dzielnicy Castro sklepik fotograficzny, który wkrótce stał się czymś w rodzaju klubu spotkań gejów, zbuntowanej młodzieży, hippisów.

W trakcie licznych dyskusji z przyjaciółmi Milk doszedł do wniosku, że geje mogą zyskać akceptację w społeczeństwie tylko wtedy, gdy przełamią barierę uprzedzeń i ujawnią swoją orientację. W ten sposób z przedsiębiorcy stał się działaczem politycznym. Trzy razy walczył w wyborach o stanowisko w miejskim samorządzie.

Cel osiągnął dopiero w 1977 r., zostając miejskim radnym San Francisco. Z sukcesem poprowadził również kampanię przeciw poprawce numer 6, która zabraniała gejom m.in. wykonywania zawodu nauczyciela. Dzięki protestom organizowanym przez Milka amerykański Senat ją odrzucił.

Rok później Milk został zamordowany wraz z burmistrzem miasta George’em Moscone przez kolegę z rady Dana White’a.