历史上，太原曾是唐尧、夏禹、西周唐国、战国赵、西汉代、十六国前秦、南北朝北齐、唐朝、五代诸国(包括封国、诸侯国)等的都城、别都。
我国著名地理学家谭其骧教授认为，都城的选择主要由经济、军事、地理位置三方面的条件来决定。英国地理学家柯立希在《大国都》一书中提出，建造都城时通常考虑以下三个因素：交通便利、粮食(包括水源)充足、便于防守。
就地理位置而言，太原西、北、东三面环山，中、南部为河谷平原，整体北高南低,呈簸箕形。东边的太行山脉和西边的吕梁山脉作为天然屏障保护着晋中盆地。大同盆地与忻定盆地、晋中盆地之间山川阻隔、地形险要，易守难攻。山西北部历来是游牧民族或王朝的聚集地，因此，太原及其周边通常是中原王朝重点部署的北疆防线。
同时，太原城的水系非常发达，晋水、汾水穿绕城中。城中有大小湖泊池沼,水源充足。
太原以其独特的地理位置和自然条件成为都城选址的重要区域。
太原达到“人生巅峰”是在唐朝，确切而言是武周和唐玄宗时期。
武则天执政后,将太原定为国之北都。唐中宗复辟后，废去了太原的北都地位。唐玄宗即位后，恢复了太原的北都地位，并在天宝元年(742)，将北都升级为北京。
武则天设置北都
武则天设置北都的具体时间，有天授元年(690)和长寿元年(692)两种不同说法。武汉大学齐子通博士认为，长寿元年(692)置北都更加符合武周革命的过程与次第，显得更为顺理成章，合乎情理。而从中我们可以窥见武则天设置北都的初衷与根本目的。
武则天设置北都的原因，比较常见的是以下两种说法：一是武则天的家乡情结，武则天的祖籍是并州文水县，在她称帝后，出于家乡情结，通过设置北都的方式来提升家乡的地位。直接的证据是武则天将文水县改名为武兴县。
二是武则天希望加强河东军事管理，防范突厥入侵。武周时期，正是后突厥帝国崛起扩张与兴盛的时期，其兵锋已经触及河东地区中北部的朔州、蔚州、代州、忻州，直逼并州，形势严峻。设置北都对于巩固边防有重要意义。
上述两项虽然是武则天设置北都的重要原因，但并非是决定性因素。
一方面，隋唐时期，太原一直是北方的军事重镇，发挥着抵御北方游牧民族的作用。隋炀帝任命李渊为太原留守的目的之一就是“北备突厥”。另一方面，太原作为唐朝龙兴之地，开国之君李渊更有理由设置陪都，而现实并非如此。
因此有学者认为，武则天将太原设置为北都的根本原因，是为了推动以长安为中心的李唐政权向以洛阳为中心的武周政权的转变。
实际上，为了实现“天下中心”的转移，武则天对长安和洛阳进行了大刀阔斧的整改。第一，以洛阳为中心，进行大规模的京畿建设活动，具体来说，就是将洛阳周围的临近诸州都纳入王畿范围之内；第二，强迫关中数十万户迁徙洛阳；第三，对李唐的关中王畿进行分割，“分京兆置鼎、稷、鸿、宜四州”。
这三个举动都意在削弱长安的政治、经济、文化中心地位。
李唐以长安为都城，唐高宗时期，洛阳是唐的陪都。而武周政权以洛阳为都城，并称其为“神都”。武周政权设置属于自己的陪都，太原自然是最佳的选择。再联系到太原防御突厥的使命，武则天以之为北都，既能起到强化拱卫神都的作用，也突出了太原作为神都北方门户的地位。
唐玄宗恢复北都
唐中宗复位后，撤销太原的北都地位。直到唐玄宗即位后，才重新恢复北都，之后还改其为北京。唐玄宗再设北都主要有以下三个原因。
第一，山西是唐玄宗的龙兴之地。中宗景龙二年(708)，李隆基以临淄王的身份出任潞州(今山西长治)别驾。李隆基在潞州任职期间，表现出了杰出的政治才能。他有德政，善待僚属，爱护百姓，颇受当地人民的爱戴。
第二，祖宗情结。唐玄宗以曾祖唐太宗和祖母武则天为楷模，而太原是太宗王业所基、则天之祖籍。开元十年至十一年(722-723)，唐玄宗决定北上太原，并在《幸并州制》中写道：“今属宗庙改修，礼崇昭事，永言配享，必在躬亲。又眷彼晋阳，是称重镇，将陈诗以问俗，式安边而训武。”
唐玄宗巡幸并州，颁诏《置北都制》，恢复了太原北都的建制，并升并州为太原府。在太原，唐玄宗宴请当地父老,甄别案情,释放部分囚犯，免除当地五年赋税。
唐玄宗于开元二十二年(734)，再次巡幸北都。天宝元年(742)，北都太原府与京都长安、东都洛阳，一道改“都”为“京”，太原由国之“北都”，改为国之“北京”。
第三，巩固边防。开元五年(717)，突厥九姓内附唐朝，散居在太原以北地区。张嘉贞上表朝廷，请求驻扎重兵，加以震慑。唐玄宗于是在并州设置天兵军，任命张嘉贞为天兵军大使。玄宗《并州置天兵军制》中曰：“左拒辽阳之师，右连河上之戍，车徒列次，鼓角传声，俾其雷断一方，云横万里，宏兹庙算，称朕意焉。”
唐玄宗重设北都用以巩固边防，能够从唐北都中城的建筑结构中窥其一斑。北都的中城并非是具有生活功能的普通城市，它更像是一座以防守作为主要功能的堡垒。具体而言，中城主要由两座跨越汾河、联结城垣的天桥与内部汾河上的桥梁构成。中城与东城、西城一起构成了北都的城垣体系。三者相互连接，相互呼应，对于城市的防御功能意义重大。
至德元年(756)，唐肃宗将太原改回北都。此后，太原作为北都的地位一直保持到五代十国时。
