晚年的李世民颇为留念东都的繁华,经常不顾京师安危巡幸洛阳,这一切李大亮都看在眼里,贞观十八年,李世民再次起驾洛阳,把京师这一摊子留给了房玄龄,并令李大亮做副手;没想到李大亮突然遇疾倒下,这下把李世民急坏了,亲自调药并命驿站火速送往京师,李大亮感觉时日无多,临终前最后一次上书,请求止戈息民,停止伐辽;另外希望李世民不要留恋东都繁华,以宗庙为重长居京师。正所谓人之将死其言也善,李大亮的两条建议可谓切中时弊,写完最后一份奏章后,李大亮以“男子不死妇人之手为礼”屏退侍女,就此死去。
李大亮死后,家里只有五石米、三十端布余财,史书记载“竟无珠玉可以为唅”,家境比当时长安的普通百姓都穷。《孙子兵法》云:“将者,智信仁勇严也”,如果有来评价李大亮还需再加几个字,那就是政、略、忠、义、礼、廉,何谓也?劝农以桑,政也;以身劝贼,略也;劝君以义,忠也;葬同族鳏寡,义也;不死妇人之手,礼也;无珠玉为唅,廉也。李大亮如此之品行毫无疑问成为后世之楷模,其中就有北宋宰相张齐贤,他从小仰慕李大亮之为人,随取字为师亮,其意以亮为师,在他以后的政治生涯中同样为北宋立下赫赫战功,这才是榜样的力量。