Archiwum Państwowe we Wrocławiu Oddział w Jeleniej Górze powstało na bazie Stadtarchiv Hirschberg, powołanego w 1927 r., z własnym budynkiem przy Äussere Burgstraße 27. W 1932 r. przekształcono je w Stadt- und Kreisarchiv Hirschberg. Kierownikiem placówki był dr Max Göbel, a po jego śmierci w 1941 r. dr Emil Kröning.

Dnia 14 sierpnia 1945 r. władze polskie zatrudniły jako kierownika Archiwum Miejskiego, przybyłą ze Lwowa archiwistkę Eugenię Triller. W ten sposób stało się ono najwcześniej otwartym polskim archiwum na Dolnym Śląsku. Zlikwidowano je 8 czerwca 1951 r., tworząc w jego miejsce Oddział Terenowy Wojewódzkiego Archiwum Państwowego we Wrocławiu, działającego na terenie powiatów: jeleniogórskiego, lwóweckiego i kamiennogórskiego. Jego pierwszym kierownikiem został Władysław Korcz (1951-1952), a po nim Czesław Margas (1952-1990), działający aktywnie w regionalnych stowarzyszeniach naukowych. Gdy w 1960 r. zasób osiągnął 1085 mb w magazynach zaczęło brakować miejsca. Rozpoczęto wówczas starania o dodatkową powierzchnię magazynową, które trwały 45 lat.

W 1976 r. powstało samodzielne Wojewódzkie Archiwum Państwowym w Jeleniej Górze. Jednocześnie zwiększyła się liczba pracowników z 3 do 9. W 1990 r. na emeryturę odszedł Czesław Margas i dwoje innych pracowników, a ich miejsce zajęli młodzi archiwiści. Dyrektorem placówki została Anna Borys. W 1991 r. Archiwum Państwowe w Jeleniej Górze zostało zlikwidowane, a w jego miejsce utworzono Oddział Archiwum Państwowego we Wrocławiu. W 1994 r. funkcję kierownika Oddziału objął Ivo Łaborewicz.

W 2004 r. Oddział przejął budynek pokoszarowy przy ul. Podchorążych 2 (ob. ul. płk. W. Kazimierskiego 3), do którego przeprowadził się w 2005 r.