Więzienie zostało wybudowane w 1867 roku na działce o powierzchni 4 tys. metrów kwadratowych. Podzielone jest na 25 cel w których można pomieścić 76 więźniów. Jednak zazwyczaj było ich tam znacznie więcej. Więzienie nawet w czasach powojennych było notorycznie przepełnione.
W czasie drugiej wojny światowej więzienie przejęło Gestapo - tajna policja utworzona w III Rzeszy, które używało go do przetrzymywania więźniów politycznych. Było też "przystankiem" przez przewiezieniem więźniów do KZ Royallieu koło Drancy a stamtąd do obozów koncentracyjnych w Niemczech, głownie do KZ Buchenwald.
Więzienie w Compiegne zamknięto 13 grudnia 2015 a 47 więźniów odbywających tam kary przeniesiono do nowego więzienia w Oise.
Lokalne władze chciały przebudować więzienie na kompleks budynków mieszkalnych. Jednak w 2017 roku zarzucono te plany.
Cały kompleks trafił na internetowy portal aukcyjny z ceną wywoławczą 527 tys. euro. Koniec aukcji przewidziany jest na 23 września. Na razie wylicytowana cena nieruchomości doszła do 1?310?000 euro czyli około 5,8 mln złotych.
