1772年以后，吉本注意力的焦点集中在历史上，同时他发现自己很难对其他事物认真地思虑。“几次实验之后，我才能在乏味的纪年表和注重修辞的演讲词两者之间找到中庸之道。第1章我前后共写了3次，第2、3两章写了2次之后我才勉强满意这3章的效果。”他决定把这部历史写成一本文学著作。
1775年，吉本把前面第1章的原稿交给一个出版商，这位出版商拒绝了，所持理由是该书预期定价过高。另有两个书商——托马斯·卡德维尔和威廉·斯达翰——则冒着风险印行了《罗马帝国衰亡史》第1卷（1776年2月17日）。虽然书价高达1基尼，但是那1000册在3月26日就售光。第2版的1.5万册于6月3日出版，也在3天内卖光。“我的著作被摆在每张书桌上及几乎每个化妆台上。”连往常派系气氛极浓的文坛也一致赞赏。罗伯逊也很大方地致送赞美词。死于这一年的休谟也写给作者吉本一封信，吉本说这封信“足足偿付了我10年来的辛劳”。霍勒斯·沃波尔在出书次日向威廉·梅森说：“看吧！一本真正配得上名著的作品诞生了。”
这很合逻辑，也很大胆地在书的开头以三章极富学术意味的文字来详述马可·奥勒留去世时，罗马帝国的版图、军事组织、社会结构及法律结构（奥勒留死于公元180年）。吉本认为这一年以前的84年，帝国已达其行政效率和民心满足的最高峰：
要是有人被请来指出世界历史上人类的情况最幸福、最繁荣的一个时期，那么这个人一定毫不犹疑地说是图密善去世（96年）至康茂德登基（180年）为止的时期。这个时期，罗马帝国广大的版图都在美德与智慧的引导下，由绝对的权力来统治。军队由一连4个虽严格却极温和的皇帝来约束，这4个君主的个性和权威博得了人们不由自主的尊敬。民间行政的形式则由涅尔瓦、图拉真、哈德良、安东尼等人细心保存。这些人乐于看见自由的形象，也乐得认为自己是应该对法律负责的内阁阁员……这些君主的努力获得的效果远大于他们的努力，因为……他们也得到美德真正的光荣，还眼见大众对自己为他们带来普遍幸福而感到高兴，自己也有着极高的喜悦。
不过，吉本也了解“那种必须看一个人的脸色的幸福极不稳定。只要有一个淫佚的青年或善妒的暴君滥用……那种绝对权力，那么致命的时刻也许就来临了”。以往那些“贤明君主”一向都是由适于采行的君主政体来选定——每个统治者将其威权转移给他周围的人士中一个经挑定、又经训练的继承者。马可·奥勒留却容许至高的皇权传给自己不够资格的儿子康茂德，那次继位之日，吉本把它当作帝国衰落之日。
吉本认为，基督教的兴起也促进了这次衰落。在这一方面他舍弃了孟德斯鸠的看法，孟氏在《罗马人的伟大与堕落》中并无这种论调，吉本在这一方面倒是学了伏尔泰。他的态度是绝对理智的，他对神秘的狂喜和寄望的信仰并无共鸣。他有一段极富伏尔泰韵味的话，足以表明他的看法：“在罗马世界里存在着的各式各样的信仰，人们都认为同样真，哲学家都认为同样假，行政长官则认为同样有用。因此，容忍产生了宗教上的协调。”吉本通常避免直接对基督教表示仇视，因为当时英国的法令全仍有条款视此种说法为重罪。例如：“要是有一个接受基督教教育的人竟然以写作的方式……否认基督教是真实的，那么他……再犯时……得坐3年牢，不得保释。”为了避开这种不便，吉本把灵巧的建议和不着痕迹的讽刺变成自己文体的要素。他很谨慎地指出：他不准备谈基督教的那些初始、超自然的资料，而只想讨论其中涉及其来源和发展的次要、自然的因子。在这些次要因子中，他虽然也列出1世纪时“基督徒纯洁、朴实的道德”，不过他又加上另一个原因，说是“基督徒一成不变的（要是容许说出来的话，应该是无容忍性的）热心”。他虽然也称许“基督教的共和世界里的联合一致与纪律的良好”，却又说“它在罗马帝国的心脏地区逐渐形成了一个独立而且日渐扩张的城邦。”大体来说，他把基督教早期的进展从奇迹降为一种自然过程，把各种不常见的奇迹从神学搬至历史中。
到底基督教与罗马的衰落有何关系呢？腐蚀信奉国教的人民的信仰，然后借此将这个由宗教来支撑、并使之神圣化的国家逐步瓦解。（这当然正是神学家和哲学家争论的题目。）罗马政府不信任基督徒，认为他们逐渐组成与服兵役为敌的秘密结社，而从正业中将人们拉向全神贯注于天堂的拯救。（根据吉本的说法，教士就是一群觉得乞讨、祷告比工作简单的懒虫。）其他小圈子倒还可以容忍，因为他们也有容人的雅量，而且不危及举国的团结；只有基督徒排斥其余的圈子，说其他的人邪恶、理应受惩，而且公然预言“巴比伦”——意指罗马——的灭亡。吉本把这种宗教的狂热归因于基督教的犹太教来源，而他在叙述中也学塔西佗，在多处抨击犹太人。他还提议把尼禄对基督徒的迫害解释为其实是对犹太人的迫害（这种理论今天已找不到拥护者）。他跟伏尔泰一样，把罗马政府治下殉道的基督徒人数减少，据他估计最多不超过2000人。他还同意伏尔泰的看法，说“基督徒（自从君士坦丁大帝以来）内部纷争引起的彼此之间的苛刻对待，远超过不忠于基督教的人加诸他们身上的……”
第1卷结尾的几章（第15—16章）有很多人反映说吉本写得不公平、不诚实。他暂时把这些评语搁在一旁，自己再到巴黎度长假（1777年5月—11月）。已经嫁给银行家兼财政部长内克的苏珊·库查德邀请吉本到他们家去。如今她的生活已经极为优裕，因此不再怨他当初“叹息如情人，服从如稚子”；而内克先生一点也没有醋意，也时常让这对老情人独处，自己去办事或睡觉。“他们有本事更残忍地侮辱我吗？”吉本这么怨艾着，“简直是毫不相干的安全措施嘛！”苏珊娜的女儿吉莫恩（后来嫁给斯塔尔先生）觉得吉本是一个很合得来的人，要是吉本他日考虑以大英帝国的衰亡为题写书的话，自己很乐于提供有关资料。
回伦敦后，吉本拟妥一份给批评他的人的答辩书《罗马帝国衰亡史第15、16章数节的辩白》（A Vindication of Some Passages in the Fifteenth and Sixteenth Chapters of the History of the Decline and Fall of the Roman Empire，1779年）。他很简短、客气地答复那些在神学方面意见与他不同的人，但一个21岁的青年——亨利·戴维斯——惹他动了一点肝火，这位青年指出吉本在248页上都有资料不确的事情。我们这位历史学家承认了其中少数，却矢口否认自己“故意曲解，粗鄙的错误，还卑屈地剽窃”。一般人公认这篇《辩白》反驳得很漂亮。其后，吉本除了偶尔在《备忘录》上答辩之外，没有再反驳过人家的批评，不过他在后来出版的各卷上找了机会对基督教做修好式的赞语。
他写作的速度随着他在国会席次的失去（1780年9月1日）而加快。《罗马帝国衰亡史》的第2、3两卷于1781年3月1日出版。这次读者没什么动静，因为野蛮人入侵的故事早已流传，而对4世纪和5世纪刺激基督教会的异端邪说所做的冗长、专门的讨论引不起这个时代的人们的兴趣。吉本把第2卷的新书样本寄了一份给霍勒斯·沃波尔，他还在柏克莱广场见了沃波尔，结果极为懊恼，因为沃波尔告诉他说：“你对阿里乌斯派、伊诺米派、半伯拉纠派的人谈得太多……虽然你把情形说得很清楚，但是有耐心看完的人恐怕不多。”沃波尔写道：“从那次以后直到现在，我没再见过他，过去他总是一个礼拜来一两次。”吉本后来同意了沃波尔的看法。
君士坦丁到前线去以后第2卷重获生机。吉本认为这次著名的转变是一个政治家风度的表现。“大帝”已发现“最聪明的法律的执行是不完整、不稳固的。这些法律影响不了有道德的人，又无法永远约束罪恶”。在这个碎裂的帝国道德、经济和政府陷入一片混乱之时，“一位谨慎的君主一定乐于看见宗教的进展在人们之间散布着一种纯洁、慈悲、普遍的伦理系统，适用于每一行业，每一种情况的生活，而且被推为至高的‘神’的意愿与理智，更以永远的报酬或处罚来加强其约束力”。换言之，君士坦丁大帝了解超自然的宗教可以协助促进道德观念、社会秩序及政府的建立。接着，吉本以150页雄辩、公正的文笔来谈“变节的尤里安”（Julian the Apostate）。
他以一个夸奖乔治三世“对科学和人类纯洁、大方的爱”的注释来结束第38章与第3卷。1781年6月，吉本由于诺斯爵士的协助，再度被选为国会议员，他在国会上重申他对政府的支持。诺斯爵士的垮台（1782年）使吉本的职位也一道告吹。“我被拿走每年750英镑的薪水。”等诺斯在联合内阁取得一职（1783年），吉本又向他要一份领干薪的闲职，这次却不能如愿。“没了这笔额外的收入，我无法长期以我习惯的花钱方式来过日子。”他估计自己在洛桑可以维持那种生活，因为那里一个钱可以当伦敦的两个钱花。他辞去国会议员的职务，把自己的藏书以外的一切卖了，1783年9月15日离开伦敦——还有伦敦的“浓烟、财富和喧闹”——到洛桑去。他在那里和老友乔治·迪沃顿共住一座宽敞的大厦。“我不再望着12英尺见方的铺石法庭，我可以望着一望无垠的山谷、高山和流水。”他2000册藏书在耽搁一段时日之后也运到了，于是他继续写第4卷。
他原先计划以476年罗马的征服来结束《罗马帝国衰亡史》。不过，在出版了第3册后，他“开始希望着每日例行的工作——积极地追寻——使每一册书具有价值，使每一个质询都有目标”。他决心把“罗马帝国”解释成东罗马和西罗马帝国，也把自己的记载延续到1453年因土耳其人征服君士坦丁堡引起的拜占庭王朝的崩溃。因此，他把所谈的年代延长了1000年，也承担了好几百个需要努力研究的新题目。
第4卷包括谈查士丁尼和贝利萨留的几章，有一章讨论罗马律法的，赢得了法学家的嘉许，另有忧郁的一章谈及基督教神学方面进一步的纷争。沃波尔曾写道：“我真希望吉本先生没听说过一性论教派、聂斯托利信徒（Nestorian）等这些傻瓜的事才好！”在第5卷中吉本显然大松一口气地把题目转至穆罕默德的兴起及阿拉伯人征服东罗马帝国上面来，这次他大大地细说“先知”和勇武的哈里发，其不偏不倚的理解正是他在描写基督教时没办到的。在第6卷中“十字军”又给他另一个令人兴奋的题目，而穆罕默德二世占领君士坦丁堡更是带来最高潮，也是他的这部作品中最荣耀的一页。
他在最后一章以一句名言来总结自己的辛劳。他说：“我已描述了野蛮和宗教的胜利。”他跟他不承认的老师伏尔泰一样，认为中世纪除了粗野和迷信之外什么也没有。他勾画出1430年罗马濒临崩溃的情况，还引用了波吉奥（Poggio）的挽语说：“这个世界上的奇景跌落得多厉害，变得多快，面目已全非！”——古典的纪念碑与艺术的毁坏和倒塌，集会场所弗尔姆·罗曼姆已长满野草，为牛猪所盘踞。吉本很悲伤地下结论说：“我当初就是在朱比特神殿的废墟间开始孕育这部作品，这部作品使我排遣了近20年的时光，也用去我20年的精力，虽然我自己不太满意这部作品，我总算把它交给大众去满足好奇心和诚意。”他在《备忘录》中还忆及那矛盾的搁笔时刻：
我是在……1787年6月27日晚上11点到12点之间写好最后一页的最后几行文字的，地点是我花园里的夏庐。在我搁笔之后，我在……刺槐笼罩下走了几趟，这丛刺槐俯视着乡间、湖，还有高山的景色……我不想掩饰我重获自由时的喜悦之情，这也许还建立了我的名望。不过，我的自负不久即被压抑，一阵严肃的悲凄充满了我心田，因为我想到我已向一个多年深交且极宜人的伙伴永远告别。不管我写的这部历史未来命运如何，历史学家的生命毕竟既短暂又不安定。
