Pierwsze archiwum o charakterze historycznym na Suwalszczyźnie, Archiwum Państwowe w Suwałkach, rozpoczęło działalność w 1921 r. Zgromadziło archiwalia pozostałe po administracji ogólnej i specjalnej guberni suwalskiej różnych szczebli. Po wstępnym uporządkowaniu i selekcji zasób jego został w całości w 1926 r. przewieziony do Archiwum Państwowego w Grodnie, natomiast archiwum suwalskie przestało istnieć. Nie wszystkie archiwalia byłej guberni suwalskiej znalazły się w archiwum grodzieńskim.

W Suwałkach pozostał zasób Sądu Okręgowego (akta sądowe, hipoteczne, notarialne, stanu cywilnego). Część akt administracyjnych została ewakuowana przed i w trakcie I wojny światowej w głąb Rosji. Do dalszego rozproszenia przyczyniła się II wojna światowa: część materiałów archiwalnych Suwalszczyzny została wywieziona przez Niemców do Staatsarchiv Königsberg, a po zakończeniu wojny znalazły się w różnych archiwach ZSRR, m. in. w Grodnie, Moskwie, Leningradzie (Petersburgu), Gorkim, Kownie, Wilnie. Archiwalia XIX-wieczne skupione zostały w większości w ówczesnym Centralnym Państwowym Archiwum Historycznym [Republiki] Litewskiej ZSRR (Centralnyj Gosudarstviennyj Istoričeskij archiv Litovskoj SSSR, obecnie Lietuvos valstybes istorijos archyvas). Stosunkowo niewielka ich część została przekazana w ramach tzw. "rewindykacji" Polsce. Miały dokąd wrócić, bowiem w 1954 roku zostało powołane, a od 1955 r. faktycznie rozpoczęło działalność, Powiatowe Archiwum Państwowe w Suwałkach, podlegające Wojewódzkiemu Archiwum Państwowemu w Białymstoku. Organizatorem i początkowo jedynym pracownikiem merytorycznym, a następnie długoletnim kierownikiem i dyrektorem była Irena Filipowicz. Mimo trudności lokalowych i finansowych, archiwum gromadziło, opracowywało i udostępniało zasób, podejmowało działania popularyzacyjne, uczestniczyło w życiu naukowym. W 1965 r. Powiatowe Archiwum Państwowe w Suwałkach zostało przemianowane na Wojewódzkie Archiwum Państwowe w Białymstoku Oddział Terenowy w Suwałkach.

Duże zmiany zaszły w 1976 r. W związku z reformą administracyjną i utworzeniem województwa suwalskiego zostało przekształcone w Wojewódzkie Archiwum Państwowe w Suwałkach. Podporządkowano jemu Archiwum w Ełku jako oddział. W 1983 roku uległa zmianie nazwa na obecną - Archiwum Państwowe w Suwałkach. W latach 1990 - 2022  funkcję dyrektora Archiwum Państwowego w Suwałkach sprawował Tadeusz Radziwonowicz. Obecnie tę funkcję pełni Sławomir Filipowicz. 

W Archiwum od 1 stycznia 2023 r. obowiązuje struktura organizacyjna określona w § 8 Statutu Archiwum, w skład której wchodzą:
1) Oddział I kształtowania narodowego zasobu archiwalnego;

2) Oddział II ewidencji, opracowania, udostępniania i zabezpieczania zasobu archiwalnego;

3) Stanowisko do spraw popularyzacji zasobu archiwalnego;

4) Dział administracyjno-gospodarczy;

5) Stanowisko do spraw finansowo-księgowych;

6) Stanowisko do spraw kadr i rozwoju zawodowego.

2. W skład Archiwum wchodzi oddział zamiejscowy noszący nazwę Archiwum Państwowe w Suwałkach Oddział w Ełku.