Powiatowe Archiwum Państwowe w Gnieźnie powstało w 1952 roku. Swoim zasięgiem obejmowało wówczas miasto Gniezno oraz powiaty gnieźnieński, wągrowiecki i wrzesiński z województwa poznańskiego i powiat mogileński z województwa bydgoskiego. Jeszcze w 1952 r. powiat mogileński przekazano do kompetencji Archiwum Państwowego w Bydgoszczy. W 1956 r. PAP w Gnieźnie przejął dodatkowo powiat jarociński. Pierwsze akta trafiły do archiwum gnieźnieńskiego w 1953 r. Już pod koniec lat pięćdziesiątych zasób wynosił 310 metrów bieżących i nadal wzrastał. W roku 1976 PAP w Gnieźnie zostało zlikwidowane. Początkowo cały zasób, tj. ok. 470 mb akt, planowano przenieść do Poznania. Ostatecznie, ze względu na brak miejsca, z pomysłu tego zrezygnowano. Pozostawiona w Gnieźnie placówka archiwalna ukonstytuowała się jako Archiwum Państwowe w Poznaniu Ekspozytura w Gnieźnie. Była jedną z pięciu ekspozytur działających w sieci archiwów podległych NDAP na terenie kraju. Pełniła w tym czasie de facto funkcję magazynu dla rzadko wykorzystywanych przez użytkowników materiałów archiwalnych.
W 1996 r. Archiwum Państwowe w Poznaniu pozyskało na terenie Gniezna budynek przeznaczony na cele archiwalne. Z dniem 1 stycznia 1997 r. zarządzeniem Naczelnego Dyrektora Archiwów Państwowych powołany został gnieźnieński Oddział Archiwum Państwowego w Poznaniu.