Jednostkę utworzono w 1950 r., w związku z reorganizacją sieci archiwów państwowych, jako oddział Archiwum Państwowego w Łodzi. Pierwszym kierownikiem został Włodzimierz Rudź, który pełnił tę funkcję do 1991 r. W 1952 r. na skutek kolejnej reorganizacji komórkę przemianowano na Powiatowe Archiwum Państwowe w Tomaszowie Maz., i przekazano zasób z likwidowanego oddziału w Rawie Mazowieckiej. Zdegradowanemu w 1976 roku do rangi ekspozytury Archiwum Państwowego w Piotrkowie Trybunalskim, przywrócono status oddziału APPT w 1985 r.

Od 1992 r. swą siedzibę Oddział ma przy ul. Spalskiej 120. 
Od 1997 r. kierownikiem Oddziału jest dr Andrzej Wróbel.

Zasadniczą część zasobu stanowią materiały wytworzone przez administrację państwową i samorządową oraz instytucje gospodarcze funkcjonujące w wieku XIX i XX. Do najciekawszych materiałów przechowywanych w zasobie Oddziału w Tomaszowie Mazowieckim zaliczyć należy zespół o nazwie „Akta miasta Tomaszowa Mazowieckiego” ukazujący dzieje wielokulturowego miasta, które w XIX i XX w. należało na najważniejszych ośrodków przemysłu włókienniczego na ziemiach polskich.