监狱的起源可以追溯到远古时代。最初的狱是原始人驯养野兽的槛或者岩穴，进入氏族社会后，它被用来关押俘虏。国家产生之后，监狱成为国家机器的一部分。
夏朝的中央监狱叫“夏台”，其余叫“圜土”。商朝的监狱叫“羑里”，也叫“圉”。周朝的监狱叫“圜土”或者“囹圄”。周朝圜土中关押的犯人，要在监督下进行劳动，如果能改过自新，重罪者三年后可获释，中罪者两年后可获释，轻罪者一年后可获释，但是获释后三年内不能被当作平民对待。
到了春秋战国时代，监狱的规模扩大了很多，此时的监狱被叫作“圄”。到秦朝时，因为法律严酷，犯罪的人增多，所以监狱也比以前多了许多，每个郡县基本上都有监狱。为了适应需要，秦律中的《囚律》里有了监狱管理方面的详细规定。
监狱从汉朝开始被称为“狱”。汉朝的监狱更多，达两千多所，除了中央监狱即廷尉狱外，还有各个官府自行设置的监狱，地方上的郡县也都有自己的监狱。南北朝时的监狱体制基本上继承了汉朝体制，但北朝除了监狱外，还挖地为狱，称之为“地牢”。
