Oddział mławski archiwum powołany został 21 lipca 1950 roku jako oddział powiatowy Archiwum Akt Nowych w Warszawie. Terytorialny zasięg działania objął powiaty ciechanowski, mławski i przasnyski. Na siedzibę przeznaczono poniemiecki barak przy ulicy Narutowicza 1. Rozpoczęcie działalności nastąpiło z dniem 15 listopada roku 1950. Gromadzone w pierwszym etapie działalności materiały źródłowe pochodziły z XIX i XX wieku, których wytwórcą były urzędy, sądy, banki, organizacje społeczne, polityczne i zawodowe oraz fabryki i przedsiębiorstwa.
W roku 1952 oddział przejęty zostaje przez powołane wówczas Wojewódzkie Archiwum Państwowe w Warszawie pod zmienioną już nazwą Powiatowe Archiwum Państwowe w Mławie.