凌烟阁本为皇宫中的普通阁楼，但因挂有开国功臣的画像而闻名。北周时就曾建凌烟阁，庾信《周柱国大将军纥干弘神道碑》载：“天子画凌烟之阁，言念旧臣；出平乐之宫，实思贤傅。”但唐太宗造凌烟阁的事迹最为出名，上凌烟阁也成为很多文臣武将的追求。
凌烟阁本为贞观时三清殿旁一座普通阁楼，据唐刘肃《大唐新语·褒锡》记载：“贞观十七年，太宗图画太原倡义及秦府功臣赵公长孙无忌、河间王孝恭、蔡公杜如晦、郑公魏徵、梁公房玄龄、申公高士廉、鄂公尉迟敬德、郧公张亮、陈公侯君集、卢公程知节、永兴公虞世南、渝公刘政会、莒公唐俭、英公李勣、胡公秦叔宝等二十四人于凌烟阁，太宗亲为之赞，褚遂良题阁，阎立本画。”
贞观十七年，当时的开国功臣多半已亡故，尚在人世的多已老迈。唐太宗感念他们对国家的贡献，命阎立本在凌烟阁内描绘了二十四位功臣的图像，由著名书法家褚遂良题词，皆真人大小，经常前往怀旧。广德二年十一月，唐代宗在凌烟阁为郭子仪画像，以表彰他的兴唐之功。
可见，凌烟阁是当时置放开国功臣画像的地方。后世文臣武将为了取得功绩和威名，当然心向往之，这已经构成唐朝文化的一部分。如唐代大诗人白居易《题酒瓮呈梦得》诗：“凌烟阁上功无分，伏火炉中药未成，更拟共君何处去，且来同作醉先生。”诗鬼李贺《南园十九首》诗：“请君暂上凌烟阁，若个书生万户侯。”后世也多有“凌烟阁”句，《水浒传》第五十四回：“且教：功名未上凌烟阁，姓字先标聚义厅。”孔尚任《桃花扇·迎驾》：“不要取笑，日后画在凌烟阁上，倒有些神气的。”欧阳予倩《木兰从军》第十场：“不求图画凌烟阁，只为家邦致太平。”
