两京制在中国历史上并不稀奇，很多朝代都不止一个都城，比如隋唐两代的长安、洛阳，当朝廷以长安为都城时，洛阳通常以“东都”的形式存在；再比如辽金两代的“五都制”，一共设置“东西南北中”五个都城。不过这些“一朝多都”的朝代都无法与明朝相比，尽管从数量上看明朝的“南北两京”并无特别之处，但南京却有一套实打实的“备份”班子，而这点是历朝历代都不具备的。
既然朝廷有两套班子，那么在明朝276年的历史当中，南北两京不会因职权重叠而产生冲突吗？要回答这个问题，我们首先应该回溯到“两京制”的诞生背景，也就是成祖朱棣时代。大明开国之后，朱元璋定都南京，此时明朝有且只有这一套班子，而且从后续的发展来看，朱元璋也没有建立“陪都”的打算。那么究竟是什么原因造成了“两京制”的格局呢？答案就是“靖难之役”。
朱棣起兵推翻朱允炆之后在南京登基称帝，不过他的根基和统治中心在北方，所以迁都北京势在必行。公元1421年，朝贺大典正式在北京奉天殿举行，这也意味着明朝权力中心“北迁”的完成，自此北京取代南京成为朝廷驻地。然而南京的独特之处在于这是朱元璋定下的都城，而明朝又标榜以“孝”治天下，所以南京的都城地位是任谁也不敢取消的。
在这种情况下，北京被称为“行在”，而南京被称为“都城”，也就是说北京尽管是真正的权力中枢，但也只是名义上的“临时都城”，即皇帝率文武百官驻扎的地方；而南京尽管已经退居二线，但名义上仍旧是大明王朝的“正式都城”。这样的情况一直延续到朱棣驾崩，甚至仁宗朱高炽继位之后曾一度想迁回南京，但可惜寿限太短，仅仅十个月之后仁宗也追随成祖而去。
随着局势一点点平稳，“两京制”的格局逐渐趋于稳定，因此到英宗时期，朝廷正式颁布诏书，规定北京各衙署废除“行在”二字，而南京各衙署添加“南京”二字，这样就从法律层面将北京升格为“正都”，而南京则成为“陪都”。作为曾经的都城，南京保留了一整套班子，诸如六部、都察院、通政司、五军都督府、翰林院、国子监等机构一样不落，而且官吏的称呼和级别也与北京相同。
尽管这两套机构从名份上说没有什么不同，但实际管辖的范围还是大有区别。由于南京没有皇帝，实权远远比不上北京，相对于北京可以统辖全国而言，南京的主要权力范围基本局限在南直隶。正因为如此，南京各级官吏多为虚职，也就是说国家按月供给粮米，但基本上没什么正经事可做，甚至到了明后期，南京基本上已经成为失意大臣的养老之地。