贞明二年（916年），阿保机建立契丹国，称帝。率部众建都城皇城，即后来的上京，京中建孔子庙、佛寺、道观等。他立国后，渐以宗室为南府宰相， 制定法律，颁定官爵位次。设立迭剌部南北二院夷离堇，成为后来的定制。又命人制契丹大字，弘扬民族文化。至今，俄语发音称中国仍为“契丹”。
在太祖建国过程中，有三个汉人谋士起了至关重要的作用，他们是韩延徽、韩知古和康默记。
韩延徽是奉刘守光之命出使契丹时，被阿宝机强留下来，在建国以前的征战中被倚为谋主，建造汉城也出自他的建议。他一度不告而别，南奔李克用。后因不惬意而重回契丹，阿保机喜出望外，信用如故，赐名“复来”，中外事悉令参决。建国之初，百事草创，营都城，建宫殿，正君臣，定名分，法度井井有序，史称皆延徽之力。太祖与延徽那种君臣间的信任和配合，在中原王朝也是并不多见的。
韩知古原来只是述律后从嫁的奴隶，阿保机听说他善谋有识，就起用了他。建国伊始，礼仪疏阔，他根据旧典，参酌契丹风俗，结合汉族仪制，使契丹人“易知而行”，加快了契丹族汉化进程。康默记原是蓟州衙校，阿保机将其俘获，以爱其才而径隶麾下，当时诸部新附，法律未备，他推敲律意，论决轻重，不差毫厘。
建国之初，辽太祖做了四件大事。
其一，神册三年（918年），由韩延徽和康默记主持，在潢河以北营建皇都（在今内蒙古巴林左旗南），后经辽太宗数次扩建，改称上京。上京的营建，是北方草原游牧部族的空前创举，也表明在吸收汉族先进文化上契丹民族的积极态度。
其二，神册五年，命耶律鲁不古和耶律突吕不仿照汉字偏旁创制契丹大字（其后，太祖之弟迭剌又以回纥文字创契丹小字），结束了契丹族“刻木为契”的历史，加速了走向文明社会的步伐。
其三，神册六年，命耶律突吕不制定契丹第一部基本法典《决狱法》。
其四，改革宰相制度。阿保机就任可汗后，把原先契丹八部分入北南两个宰相府，北府以迭剌部为核心，包括品部、乌隗部、涅剌部、突吕不部共五部，南府以乙室部为核心，连同楮特部、突举部共三部，可汗从迭剌和乙室两大特权部落的贵族中分别任命北南两府宰相，这一举措推翻了此前八部酋长选举产生和平等议事的原则，是向朝廷决定宰相的过渡。910年，确立了后族任北府宰相的定制，神册六年，规定自此以后南府宰相由宗室出任。这样，两府宰相就由皇帝直接任命的后族和皇族担任，部落酋长议事制的残余完全清除，家天下的世袭皇权空前巩固。从此，辽朝作为契丹民族建立的统一国家雄踞北方。