Archiwum Państwowe w Zielonej Górze powołano na mocy Zarządzania nr 9 Prezesa Rady Ministrów z 13 lutego 1953 r.

Podporządkowano mu działające już Archiwa Powiatowe w Gorzowie Wlkp. i Szprotawie, a od 1955 r. w Międzyrzeczu. Siedziba archiwum mieściła się w Sulechowie przy ul. Dworcowej 21.

Pierwszym dyrektorem został Tadeusz Mencel, a w 1954 r. obowiązki te przejął Roman Szczepaniak. Z dniem 1 marca 1959 r. nową siedzibą WAP w Zielonej Górze stał się pałac w Starym Kisielinie. W Sulechowie utworzono archiwum powiatowe, a PAP w Gorzowie Wlkp. przemianowano na Oddział Terenowy. W następnych latach nastąpiły dalsze przemiany organizacyjne: w 1960 r. PAP w Międzyrzeczu przeniesiono do Wilkowa koło Świebodzina, zmieniając jego nazwę na PAP w Świebodzinie z/s w Wilkowie, PAP w Sulechowie i Szprotawie zmieniły swoje siedziby, a w Żarach utworzono filię szprotawskiego oddziału. Taka sieć archiwalna przetrwała do 1975 r., kiedy to zlikwidowano wszystkie archiwa powiatowe, a ich miejsce zajęły oddziały i ekspozytury.

Nowy podział administracyjny kraju zmienił też zasięg terytorialny działania WAP w Zielonej Górze, który od 1979 r. obejmował już tylko teren województwa zielonogórskiego. Organizacyjnie podlegały mu wówczas Oddział Terenowy w Szprotawie z filią w Żarach oraz Ekspozytury w Sulechowie i Świebodzinie z/s Wilkowie. Oddział Terenowy w Gorzowie Wlkp. podporządkowano natomiast WAP w Szczecinie. W 1981 r. filia w Żarach stała się Oddziałem Terenowym, a Oddział Terenowy w Szprotawie – Ekspozyturą. Po odejściu w 1959 r. Romana Szczepaniaka kolejnymi dyrektorami Archiwum byli: Alfred Kucner (1959-1967), Adam Markusfeld (1967-1968), Stefan Dąbrowski (1968-1972), Henryk Dominiczak (1973-1978), Florian Relis (1978-1979), Jan Grzelczyk (1979-1983), Jerzy Piotr Majchrzak (1983-1998). Trzy razy funkcje p.o. dyrektora sprawowała Wanda Darasz. W wyniku kolejnych zmian organizacyjnych WAP w Zielonej Górze przemianowano na AP w Zielonej Górze, a Ekspozyturę w Świebodzinie na Oddział Terenowy w Wilkowie (1983 r.), ponadto zlikwidowano Ekspozytury w Sulechowie (1989 r.) i Szprotawie (2002 r.).

W 1999 r. dyrektorem Archiwum został Tadeusz Dzwonkowski, który tę funkcję pełni do dziś. Rozpoczął on starania o budowę nowego obiektu, czego owocem jest nowa siedziba Archiwum Państwowego przy al. Wojska Polskiego 67a w Zielonej Górze, oddana na użytku w 2013 r. Tym samym uległy likwidacji Oddziały Terenowe w Wilkowie i Żarach, a Centrala opuściła pomieszczenia w Starym Kisielinie.