郡，乃古时的行政区域。秦以前比县小，从秦开始，郡治的机构，相当于今日的市或地区比县大。如果郡设在都城，则相当于现代的中央直辖市。它不仅是行政区域，而且是政治中心、军事中心、经济中心。
公元前221年，秦既灭六国，并天下分三十六郡，置守尉监金陵地属”鄣郡”，遂改金陵邑为秣陵县。
公元前109年（汉元封2年）汉既平秦，汉武帝废鄣郡立丹阳郡。公元前106年，汉武帝在全国设十三州，丹阳郡属扬州。扬州辖有丹阳、豫章、会稽、庐江、九江五郡。丹阳郡辖管宛陵、于潜、江嵊、春榖、秣陵、故鄣、句容、经县、丹阳、石城、湖熟、陵阳、芜湖、溧阳、溧水共十五个县，有107，541户，405，171人。东汉时期曾移郡治宛陵（今宣城），至公元208年（建安十三年）孙权拜宛陵侯吕范将军六丹阳太守自宛陵还治秣陵。有关丹阳郡城史书曾有记载，据南朝《宫苑记》载：”去长乐桥东一里，南临大路，长乐桥（今武定桥）东南有长乐巷，宫阙盖自东城角内外，皆是郡治。城周一顷，开东南北三座城门。汉扬州无定治，或治寿县，或治曲阿，或治溧阳、或治建邺为多，亦在淮水之南。”
据史书载：东汉初期，社会得到了恢复和发展丹阳郡先后任郡尹或太守的主要有任光李忠、周尚、吴景、吕范等人。其中李忠的政绩比较突出。他勤于政务，整顿有方，特别是倡导农民垦荒，居功奖励。仅在三年时间里，入藉流民高达五万，其范围内呈现了较为安定的局面。
公元281年（西晋太康二年）晋武帝灭吴，徙扬州治建邺，在冶城之东。丹阳郡仍辖旧地，统县永平、江乘、湖熟、丹阳、句容、溧阳。设秣陵和建邺二县，以秦淮河为界水南为秣陵，水北为建邺。改临江县为江宁县，这是”江宁”在南京史上的初次出现。
公元420年（刘宋永初元年），东晋既灭，刘裕称帝，改国号为”宋”。
因历史上南京遗留下的宫殿、都城、丹阳郡城等古建筑梁、陈大部皆沿袭相继为踞。到了公元589年，（隋开皇九年）时，隋兵渡江伐陈，先占钟山和石头城，再攻东游苑和宫城、城邑殿阙包括南京历代留下的古建筑不复有存者，废丹阳郡，平其城以为田，并荡耕垦。当时的建康城内，随着滚滚尘烟，弥漫灰雾，一切都消失了。