“二年，初置丞相，摢里疾、甘茂为左右丞相”
，当然此时的“丞相”并非是以后的百官之长，因为此时的百官之长是“相邦”，当时的丞相只是相邦的副手，他负责协助相国处理朝政事务，如在秦王政初期吕不韦为相邦，昌平君为丞相。
秦统一全国后，因相邦被始皇帝所废，所以丞相自然而然就替代相邦成为了百官之长，
此时秦设左右丞相，以右为尊，负责总理百政，典领百官，辅佐皇帝治理国政，无所不统。
之后到了秦二世时期，秦二世为了褒奖赵高的拥立之功，为他特别设立了中丞相一职，此时左丞相、右丞相、中丞相同时存在。
汉代秦后，刘邦延续秦制，但废中丞相，重立相国，
如前189年惠帝时期，相国为吕产，右丞相为王陵，左丞相为陈平。
因此，此时相国又成为百官之长，而左右丞相就又成为辅佐相国的副职，如《史记》中就记载萧何因诛杀韩信有功得以
“使拜丞相何为相国”
，从中可得知在西汉相国的地位要高于丞相。此外，汉初的各个诸侯国也都同时设有相国和丞相职，如燕王臧荼的燕国就有相国温疥和丞相昭涉掉尾。
到了西汉惠帝之后，汉朝不再设相国，左右丞相又成为了百官之长，辅佐皇帝处理全国政务。而后到了文帝二年，文帝废除左右丞相，改仅立一位丞相。
此时一般政务，丞相一人即可决断，他拥有任用官吏，及向皇帝荐举人才；对于地方官有考课、黜陟和诛赏之权；主管律、令及有关刑狱事务；地方上若有暴动、起义等，丞相可派属官前往镇压等职权。不过，当遇到特别重要的事情，皇帝就会召集公卿、二千石、博士共同在御前商议，而丞相就无专断之权。
在汉武帝之后，丞相的权势开始被削弱，此时丞相虽为名义上的百官之长，但是权势大多被武帝所设立的中朝官大司马大将军所夺，如韦玄成、匡衡等，在君主权贵面前，阿谀奉承，只为保持其禄位，几乎无多大的实权。成帝时，丞相何武以丞相一人难以处理繁多的政事为理由，建议建立三公制，于是成帝改御史大夫为大司空，遂以大司马、大司空、丞相为三公，自此丞相的权力被彻底分割，权势更是大不如前。
就这样，直到西汉哀帝元寿二年，哀帝改“丞相”为“大司徒”，丞相作为百官之长的历史才暂时告一段落，而此时丞相已存在了三百余年的时间。
东汉献帝时期，大司徒又被改为“丞相”，由曹操担任，此时的“丞相”总揽一切军国大事，地位已同皇帝一般无二。
三国时期，魏蜀吴三国虽都设有丞相，但却各有不同。
先是魏国，魏国初期的丞相职权很大，控制中央军队的中领军和中护军都曾是丞相的属官，但是不久之后，丞相的职权就被削弱，不掌兵权，军权由大司马、大将军执掌。其次是蜀国，蜀国的丞相是三国中权力最大的，在蜀国丞相不但再次成为百官之长，且职权被进一步放大，
即“掌丞天子，助理万机”，协助皇帝总揽一切军国大事，且可以开府治理事务，
但也因如此，蜀自诸葛亮之后就不再设丞相，此后以蒋琬为大司马领政，后任者费祎、姜维则任大将军领政，名号不一。
再是吴国，吴国丞相设置于宝鼎元年（266年），且一度分置左丞相、右丞相，但是在吴国丞相的实际职权就是管理例行政务，往往不参与重大政务的决策，真正掌控孙吴朝政大权的是大司马、上大将军、大将军等内朝将军，这些将军外则领军，内则领政，是事实上的宰相。魏晋南北朝，丞相虽设，但多为有篡国乱政心思的权臣担任，成为了一种篡位夺权的手段，正如《文献通考》所说：
“丞相既不为宰相之任，而常为嬗代之阶” ，
此时如齐萧宝融，称丞相不久就废其君萧宝卷自立，再如梁侯景为丞相，两年后侯景亦称帝。
而后隋至孝宗乾道八年这数百年的时间，丞相就再未出现，此时原属于丞相的职权被隋朝尚书令、唐朝的中书令、宋朝的同中书门下平章事等官职所替代。乾道八年，乾道改制，宋孝宗将左、右仆射兼同中书门下平章事改为左、右丞相，这个时候消失百年的丞相官职才又一次出现，
但与秦汉所不同的是宋的左、右丞相位居尚书令或中书令之下，虽握有实权，也是宰相之职，但却不再是百官之长。
元朝于中书省置左右丞相
（同时元朝也曾在尚书省置丞相，分理财赋，但时置时废）
，总理全国政务。此后左、右丞相制一直延续到明朝洪武十三年才消失，明朝最后一位丞相名叫胡惟庸。当然在明朝，
丞相又是百官之长，而非宋时位居尚书令、中书令之下
，而后随着朱元璋废除丞相制，丞相就彻底地消失在了历史的长河中，原属于丞相的职权也被明的内阁大学士、清的军机大臣等官职所分割。
总得说宰相、丞相、相国三者存在着本质上的区别。
其中宰相就是丞相、相国的通称，就是说宰相不一定是丞相，但丞相一定是宰相，宰相在不同朝代，均有不同的官职对应，如唐的宰相是中书令、侍中、尚书令，明的宰相是内阁大学士。相国在战国秦（秦称相邦，汉为避刘邦名讳，改相国）及汉朝若置则就是百官之长，地位是要高于丞相的，但因其权力太大，一般不会常设，而是被丞相所替代。丞相在秦朝为百官之长，汉时若置“相国”，则为其辅佐官员，不置则为实际上的百官之长，三国以后则是实际上的辅佐皇帝总理朝政，统领百官的百官之长。
