Jednostka została utworzona 1 maja 2002 roku na mocy ustawy z dnia 20 marca 2002 r. o przekształceniach w administracji celnej i zmianie niektórych ustaw (Dz. U. 2002, Nr 41, poz. 365) i Rozporządzenia Ministra Finansów z dnia 19 kwietnia 2002 r. w sprawie utworzenia izb celnych i urzędów celnych oraz określenia ich siedzib (Dz.U. 2002, Nr 43, poz. 392). W 2002 r. w związku z reorganizacją administracji celnej likwidacji uległ Główny Urząd Ceł (GUC) i urzędy celne. W ich miejsce powstały urzędy celne jako organy I instancji i izby celne jako organy II instancji w sprawach celnych podlegające Ministerstwu Finansów. Dyrektorzy izb celnych przejęli większość dotychczasowych zadań i kompetencji Prezesa GUC w zakresie indywidualnych postępowań w sprawach celnych. Do zakresu działań naczelników urzędów celnych przeszło większość dotychczasowych zadań i kompetencji dyrektorów urzędów celnych w zakresie indywidualnych postępowań w sprawach celnych. Urząd Celny II w Krakowie powstał – obok Izby Celnej w Krakowie, Urzędu Celnego I w Krakowie, Urzędu Celnego w Kielcach i Urzędu Celnego w Tarnowie – na miejsce zlikwidowanego (istniejącego od XII 1945 do IV 2002 r.) Urzędu Celnego w Krakowie z przekształcenia jego Oddziału Celnego Podgórze. Był organem I instancji w sprawach celnych. Funkcjonował - w okresie 01.05.2002–30.04.2004 r. – w oparciu o trójszczeblową strukturę administracji celnej (urząd celny - izba celna - Ministerstwo Finansów). Podlegał Izbie Celnej w Krakowie, w której to znalazły się komórki wykonujące zadania pomocnicze (m.in. kadry, finanse, informatycy, logistyka). Został zlikwidowany (wraz z Urzędem Celnym I w Krakowie) w związku z dostosowywaniem polskiej administracji celnej do wymogów Unii Europejskiej i tworzeniem jednego Urzędu Celnego w Krakowie. W okresie od 01.05.2002 r. do 30.04.2004 r. na mocy rozporządzenia Ministra Finansów z dnia 19 kwietnia 2002 r. w sprawie właściwości miejscowej organów celnych (Dz. U. 2002, nr 43, poz. 391) oraz rozporządzenia Ministra Finansów z dnia 20 października 2003 r. zmieniającego rozporządzenie w sprawie właściwości miejscowej organów celnych (Dz. U. 2003, nr 184 poz. 1799) właściwość miejscowa Urzędu Celnego II w Krakowie rozciągała się na obszar: - miasto Kraków - tylko południowa część miasta ograniczona od północy rzeką Wisłą (północną część posiadał w swojej właściwości Urząd Celny I w Krakowie); - powiaty: myślenicki, wielicki oraz część krakowskiego (gminy: Mogilany, Skawina i Świątniki Górne, a resztę powiatu krakowskiego wraz z powiatami: chrzanowskim, miechowskim, olkuskim, oświęcimskim i proszowickim posiadał w swojej właściwości Urząd Celny I w Krakowie). Jednostka została zlikwidowana z dniem 30 kwietnia 2004 r. na podstawie Rozporządzenia Ministra Finansów z dnia 9 kwietnia 2004 r. w sprawie utworzenia izb celnych i urzędów celnych oraz określenia ich siedzib (Dz.U. 2004, Nr 82, poz. 747).