Archiwum Narodowe w Krakowie ma ponad 140-letnią instytucjonalną tradycję. Jest sukcesorem działającego od 1878 r. Krajowego Archiwum Aktów Grodzkich i Ziemskich w Krakowie (późniejszego Archiwum Państwowego w Krakowie) oraz istniejącego od 1887 r. Archiwum Aktów Dawnych Miasta Krakowa.

Po odzyskaniu niepodległości, 1 października 1919 roku, Archiwum przeszło pod zarząd Ministerstwa Wyznań Religijnych i Oświecenia Publicznego jako Archiwum Ziemskie.   W 1936 roku  przyjęło  nazwę  Archiwum  Państwowe, a 1 lutego 1952 roku włączono w jego struktury Archiwum Aktów Dawnych Miasta Krakowa.

Z  dniem 29 grudnia 2012 roku na podstawie Rozporządzenia Ministra Kultury  i Dziedzictwa Narodowego z dnia 5 grudnia 2012 roku w sprawie zmiany nazwy oraz określenia zakresu działania Archiwum Państwowego w Krakowie Archiwum zostało przekształcone w Archiwum Narodowe w Krakowie.

Bogatą historię ma też budynek przy ulicy Siennej 16, dziś główna siedziba  Archiwum. Tu powstało w 1896 roku  istniejące  do  dziś  Towarzystwo  Miłośników   Historii  i  Zabytków  Krakowa, a  swe  posiedzenia odbywało Grono Konserwatorów  Galicji  Zachodniej, prekursor  służby  ochrony  zabytków. Tu wreszcie zorganizowane zostało Muzeum Historyczne Miasta Krakowa.

Zasób Archiwum Narodowego w Krakowie i jego oddziałów zamiejscowych liczący ponad 25 kilometrów akt i obejmujący archiwalia od XII w. po współczesne, jest jednym z największych i najcenniejszych w kraju. Archiwum ma charakter otwarty i wciąż gromadzi materiały przekazywane przez instytucje państwowe, samorządowe, stowarzyszenia, instytucje gospodarcze i osoby prywatne, głównie z terenu Małopolski. Obecnie trwa budowa nowego gmachu przy ul. Rakowickiej 22 spełniającego współczesne standardy przechowywania, zabezpieczania oraz udostępniania archiwaliów.