Pierwsze archiwum o charakterze historycznym na Suwalszczyźnie, Archiwum Państwowe w Suwałkach, rozpoczęło działalność w 1921 r. Zgromadziło archiwalia pozostałe po administracji ogólnej i specjalnej guberni suwalskiej różnych szczebli. Po wstępnym uporządkowaniu i selekcji zasób jego został w całości w 1926 r. przewieziony do Archiwum Państwowego w Grodnie, natomiast archiwum suwalskie przestało istnieć. Nie wszystkie archiwalia byłej guberni suwalskiej znalazły się w archiwum grodzieńskim.

W Suwałkach pozostał zasób Sądu Okręgowego (akta sądowe, hipoteczne, notarialne, stanu cywilnego). Część akt administracyjnych została ewakuowana przed i w trakcie I wojny światowej w głąb Rosji. Do dalszego rozproszenia przyczyniła się II wojna światowa: część materiałów archiwalnych Suwalszczyzny została wywieziona przez Niemców do Staatsarchiv Königsberg, a po zakończeniu wojny znalazły się w różnych archiwach ZSRR, m. in. w Grodnie, Moskwie, Leningradzie (Petersburgu), Gorkim, Kownie, Wilnie. Archiwalia XIX-wieczne skupione zostały w większości w ówczesnym Centralnym Państwowym Archiwum Historycznym [Republiki] Litewskiej ZSRR (Centralnyj Gosudarstviennyj Istoričeskij archiv Litovskoj SSSR, obecnie Lietuvos valstybes istorijos archyvas). Stosunkowo niewielka ich część została przekazana w ramach tzw. "rewindykacji" Polsce. Miały dokąd wrócić, bowiem w 1954 roku zostało powołane, a od 1955 r. faktycznie rozpoczęło działalność, Powiatowe Archiwum Państwowe w Suwałkach, podlegające Wojewódzkiemu Archiwum Państwowemu w Białymstoku. Organizatorem i początkowo jedynym pracownikiem merytorycznym, a następnie długoletnim kierownikiem i dyrektorem była Irena Filipowicz. Mimo trudności lokalowych i finansowych, archiwum gromadziło, opracowywało i udostępniało zasób, podejmowało działania popularyzacyjne, uczestniczyło w życiu naukowym. W 1965 r. Powiatowe Archiwum Państwowe w Suwałkach zostało przemianowane na Wojewódzkie Archiwum Państwowe w Białymstoku Oddział Terenowy w Suwałkach.

Duże zmiany zaszły w 1976 r. W związku z reformą administracyjną i utworzeniem województwa suwalskiego zostało przekształcone w Wojewódzkie Archiwum Państwowe w Suwałkach. Podporządkowano jemu Archiwum w Ełku jako oddział. W 1983 roku uległa zmianie nazwa na obecną - Archiwum Państwowe w Suwałkach. Od 1990 r. funkcję dyrektora Archiwum Państwowego w Suwałkach sprawuje Tadeusz Radziwonowicz.  

W Archiwum obowiązuje struktura organizacyjna określona w § 9 Statutu Archiwum, w skład której wchodzą następujące komórki organizacyjne i stanowiska pracy:
1) Oddział Ewidencji, Informacji, Opracowania, Zabezpieczania i Udostępniania Zasobu;
w skład Oddziału wchodzą:
- Stanowisko ds. Ewidencji i Informacji,
- Stanowisko ds. Opracowania Zasobu,
- Stanowisko do Spraw Kwerend,
- Pracownia Naukowa,
- Pracownia Reprografii i Konserwacji;
- w ramach Oddziału funkcjonuje Biblioteka,
2) Stanowisko ds. Nadzoru nad Narastającym Zasobem Archiwalnym,
3) Stanowisko ds. Przechowywania Dokumentacji,
4) Archiwum zakładowe,
5) Dział Księgowości i Administracji.
2. Ponadto w skład Archiwum wchodzi oddział zamiejscowy w Ełku noszący nazwę: Archiwum Państwowe w Suwałkach Oddział w Ełku.