在古代，龟是人们尊崇的四大吉兽之一，它不但代表了长寿，还有着镇宅赐福的作用。因而，诸如龟纹一类图案便见诸各种事物。战国时大将们的战旗上通常会见到龟的图案，到了汉代，金龟印也应运而生。
古代有四灵之说，即“左青龙、右白虎、南朱雀、北玄武”，其中的“北玄武”指的就是“龟”。据史料记载，武则天称帝后，认为自己的武姓，应在北方的“玄武”上。因而，武则天改前朝所设鱼符为龟符，作为征调军队的凭证和官员地位的象征。
据《新唐书·车服志》记载，唐初，凡官在五品以上的，都要佩戴鱼符或者鱼袋，亲王所佩戴的鱼符，以黄金为主质；普通官员所佩戴的，一般以青铜为质，上面刻上他们的官位以及姓名，用来区分官阶。武则天改龟符后，规定三品以上的官员佩戴“金龟符”，四品则佩“白银龟”，五品以下佩戴“铜龟”。此后，通过所佩龟饰便可以区分出官员身份来，能佩戴金龟符的，必是亲王或三品以上大员。
而真正把“龟”和“婿”用在一起的，是唐代诗人李商隐。他在《为有》中描写了一位在朝身居高官的丈夫，因为每天早晨都要赶赴早朝，即使天还很黑，他也要早早起床。所以，妻子就抱怨他，即使做了高官又怎样，连一个甜美安稳的觉都享受不了。诗中初次使用“金龟婿”来代称做官的丈夫。
于是，人们便将有身份地位的女婿称为金龟婿。
