二、第二个兴衰期大体为公元523年至979年，称“霸府”晋阳复兴，经隋唐辉煌鼎盛；平北汉宋毁古城。

公元396年，北魏王拓跋攻占晋阳，置并州。公元523年，高欢(又名贺六浑)掌握了北魏实权，他依据晋阳地形险要，城池坚固的优势，建立了大丞相府，有力地控制了北魏实权，称晋阳为“霸府”。公元550年高欢的儿子高洋夺取了东魏政权，自立为帝，历史上称北齐，都城虽然设在邺(今河北临漳县)，但仍以晋阳为基地，亦称为“别都”。由于高氏父子对晋阳有感情，十分重视对晋阳的修建。公元545年，高欢在晋阳修了晋阳宫；576年后主高纬修建了大明殿；577年幼主高恒修建了晋阳十二院，其壮观程度超过了邺城的皇宫。北齐统治为了游览还在晋祠修筑了读书台、望川亭、鱼沼、飞梁及“善利”、“难老”两个泉亭。与此同时，还在晋阳西山的天龙山和龙山修建了天龙寺、童子寺和法华寺，依山凿窟，雕刻石佛。这就是保存至今的天龙山石窟艺术的最早开凿。这个时期，太原市的农业、商业也得到恢复发展。晋阳城内商业兴盛、市面繁荣，成了北齐的主要商埠。

公元581年隋朝建立。由于当时突厥称雄北方，为了抵御少数民族的侵扰，晋阳城成为北方军事重镇。隋文帝封他的次子杨广为晋王，驻守晋阳。公元605年，杨广即位，史称隋炀帝。他把晋阳作为他的“龙兴”之地，在北齐晋阳宫外，又筑起了高13公尺，周围3.5公里的城墙，叫做新城，在城边修筑了高13公尺，周围4公里的“仓城”，并且又修建了一座晋阳宫。由于隋炀帝荒无道，大兴土木，爆发了各地农民大起义。公元617年，太原留守李渊及其子李世民，从晋阳起兵，攻入长安，夺取了隋朝政权，于618年建立了唐朝。由于李唐王朝对他们起兵夺取天下的发祥地十分重视，对晋阳城不断扩建，原来的晋阳城主要在汾河西岸，称为“都城”或“西城”，城中有大明城、晋阳宫和仓城，唐太宗李世民又派李绩在汾河东岸筑起了东城。武则天在位时，并州刺史崔神庆又在东城、西城之间修建起了中城，正好跨在汾河之上。当时的都城与东、中城相连，称为太原三城。规模宏伟的晋阳——太原之城，成为唐朝的北方屏障。因为东城内井水苦涩难饮，还修筑了从西城把晋水架过汾河引到东城的引水工程，叫晋渠。其后，河东节度使马燧又修建了想东城引晋水工程，还潴成隍塘蓄水，又把汾水分出许多小流环城流绕，两旁都载上杨柳，进一步绿化、美化了城市。与此同时，还在晋阳修筑了许多厅、堂、寺庙，这些建筑围绕晋阳宫、大明宫、坐落在清水绿树之间，使晋阳城更为堂皇清雅。唐代宏伟的晋阳三城，共有24道城门，晋水擦西城而过，汾河穿中城南流，晋渠穿西城、过中城，跨汾河达东城，使之流水哗哗，杨柳飘絮，楼台相望，宫阙巍峨，蔚为壮观。当时的晋阳交通四通八达，经济富庶，手工业、商业十分发达，是全国铸造货币的中心。铁制武器日臻完美，并州剪刀锋利无比，铁镜、铜镜、盛誉全国。此外，晋阳硝石、葡萄酒都是当时的贡品。唐代的晋阳不仅城市繁华，而且文化荟萃，人才辈出。诗人白居易、文学家王翰、工部尚书乔琳、宰相狄仁杰都是太原出生的唐代名人。诗人礼李白、杜甫也都来过晋阳。李白还留下了“晋祠流水如碧玉，百尺清潭泻翠娥”，杜甫也曾写下“安得并州快剪刀，剪取吴凇半江水”的美丽诗句。

公元690年(唐代武则天天授元年)定太原为北都，742年(唐玄宗天宝元年)以北都为北京，与首都长安以及南京(成都府)、西京(凤翔府)、东京(河南府)合称五京。据记载，当时的太原府“领县十三，户十二万八千九百五，口七十七万八千二百七十八”，太原进入了历史上的鼎盛时期。

由于晋阳城城池坚固，唐以后的五代，这里几度被一些野心军阀作为割据称雄的堡垒，称王称霸，自立为帝。从公元907年到979年七十多年间，太原经历了后唐、后晋、后汉、北汉等几个王朝，你争我夺，轮番占领，使晋阳古城惨遭摧残，太原人民苦不堪言。最惨痛的是公元979年(宋太平兴过四年)宋太宗赵光义经19年“三下河东”，终于平灭北汉，下令焚毁晋阳，次年又引晋水、汾水倒灌晋阳废墟，毁城灭迹，使这座经营近1500年的名城，随着五代的结束而彻底毁灭。