小霍尔拜因的父亲是奥格斯堡重要画家之一。从他的身上，霍尔拜因学到艺术的要素；从汉斯·布克迈尔，他学到一些意大利的优美气质和模型制造术。1512年，他画了4个圣坛的画板，现存于奥格斯堡画廊——称得上是中等作品，但就15岁的小孩而言，却是出奇的好。两年以后，他和他的兄弟安布鲁斯，秘密而匆匆地移居瑞士西北的巴塞尔。在巴塞尔，这两个小孩子发现自由是一种考验。霍尔拜因为不同的书作插图，包括伊拉斯谟的《愚人颂》一书在内。他做了一些艰难的画家的工作，为一小学校长做告示牌，他用取材于圣诺波底——那位敏捷的无足轻重的人物，他被控犯了每一件匿名的恶作剧，但绝不说句话来为自己辩护——的快乐事件来装饰一张桌子的顶部。在此作品中表现的技巧使他赢得一项获利的酬劳——画雅各·梅耶尔市长和其妻的肖像（1517年）。这些肖像的声名不胫而走。雅各布·赫腾施泰因（Jakob Hertenstein）叫霍尔拜因到卢塞恩，在那里，他在这位赞助人的家的正面和墙上作壁画，并画本尼迪克特·赫腾施泰因（Benedict Hertenstein）的肖像。从卢塞恩他可能已去过意大利；他的作品因此在解剖上的精确、建筑上的背景和光线的布置各方面显示出受到意大利的影响。当他回到巴塞尔，年已22岁，他建立自己的画室并和一个寡妇结婚（1519年）。那一年他的兄弟死了，1524年他们的父亲也死了。
这时霍尔拜因所作的宗教画里，混合着德国的写实主义、罗马的建筑与古典的装饰风格。引人注目的是《墓中的基督》的写实，反映曼特尼亚·安德烈的作风：皮包骨、两眼张开令人悚然、蓬发散乱、目瞪口呆、勉强呼吸；看来准死无疑，无怪乎陀斯妥耶夫斯基说这张画会破坏人的宗教信仰。约在这个时期，霍尔拜因为巴塞尔的大议事厅作壁画。议员们都大为赞赏，有一个议员还委任他为加尔都西修道院供应圣坛屏风。这就是《基督的热情》，很不幸，在1529年的反偶像暴动中被破坏，只留下两扇套窗转送给弗赖堡—伊姆—布赖斯高（Freiburg-im-Breigau）的天主教堂。这两件艺术品模仿巴尔东·格林（Baldung Grien）的地方很多，但从圣子所发散出来的光辉来看，它们也有本身的力量。1522年，巴塞尔市的书记官订了另一件圣坛屏风；这件作品就是安宁而高雅的《圣母玛利亚》，制作时霍尔拜因用他的妻子和儿子做模特，那时候他太太还是个温情标致的女人，尚未受到悲剧的打击。很可能在这时，他做出了他的宗教巨构《与梅耶尔市长一家为伴的圣母与圣婴》——结构、线条、色彩都甚为壮丽，感情的表现也非常强烈；在图中，两个儿子倚在他膝下，而跪在右边的两个太太中的一个已经死去。
但是，为像这样的宗教画获得的酬劳，就其所需要的心思和劳力的比例而言，实在太少了。肖像更能获利，而且家庭人口越来越多，他的负担越来越大。1519年，画青年学者博尼费修斯·阿梅尔巴赫——一张高贵的脸，表情中理想主义使洞察世界的眼光复活了。约1522年，他画伟大的印刷商弗罗本——一个忠于工作，心情被扰乱，因创造而被生活弄得精疲力竭的人。经弗罗本，霍尔拜因认识了伊拉斯谟。1523年，他画了两张这位忧伤的人文主义者的肖像。这位艺术家现已才力充沛，捉住了这位活得太久的人的灵魂，疾病和路德已加深了其脸上的皱纹和眼睛中忧伤的神色。巴塞尔·孔斯萨姆鲁格（Basel Kunstsammlung）的侧面像显示出他更为宁静、更有生气；鼻子像格斗者的剑般，好像要打斗似的。也许在其笔下的抄本是被列入反路德的目录中的《自由的公断》的草稿（1524年）。可能是1524年，他再度画伊拉斯谟，现悬挂于卢浮宫，看到那张深沉而贞洁的脸，我们不禁想起德西勒·尼萨尔德有见识的批评——伊拉斯谟是多了解而少肯定的光荣者之一。
约1523年，霍尔拜因画自己，时年26岁，看来似乎很成功；但其冷淡的目光暗示对生活的挣扎与斗争的愤怒。酒色占据了他的生活，他与妻子相处不睦。显然，他具有某种路德派的观点；他的《死之舞》木刻（约1525年）讽刺教士团——但当时即使是教士团也如此做。那一套木刻指出死追随每个男、女或阶级——亚当、夏娃、帝王、贵族、医生、僧侣、牧师、教宗、百万富翁、占星家、女公爵、弄臣、赌徒、窃盗——的脚后跟，这些人都正走在通往最后审判的途中，它是像杜瑞的任何作品一样的力作。除了这种绘画的杰作和《梅耶尔夫人》（Meyer Madonna）外，霍尔拜因并没有显明的虔信可见。也许他从伊拉斯谟和巴塞尔的人文主义中吸收了某些怀疑思想。他对解剖比对宗教更有兴趣。
虽然他假装赞成宗教改革，宗教改革却毁了他在巴塞尔的市场。没有人再请他画宗教画。他为市议厅作画的酬劳被暂停支付。因农民战争而恐惧的富人退避隐居，日益吝啬，以为此时画肖像不吉利。1526年，伊拉斯谟自巴塞尔来信说：“此地艺术正在冻结中。”他为霍尔拜因写介绍信给在安特卫普和伦敦的朋友，而霍尔拜因离开家人，到北方去找财富了。他拜访了昆丁·马西斯，无疑，他们互相交换了伊拉斯谟的信件。从安特卫普，他越海赴英国。伊拉斯谟的信使他受到托马斯·莫尔热诚的欢迎，并在他位于切尔西的家里腾个地方给他。在那里他画了莫尔的肖像（1526年），该像现存于纽约弗里克的画廊。这位殉道者的虔诚和倔强从其坚强而半忧郁的眼神中表露无遗，某个艺术家的洞察力却惊奇于袖子上的毛皮和褶缝。1527年，霍尔拜因画《托马斯·莫尔及其家人》一画，此画是阿尔卑斯山以北世俗艺术中，为人所知的最古老的多人画。
1528年下半年，霍尔拜因已赚了些钱，他回到巴塞尔，给伊拉斯谟一幅莫尔及其家人的画的复本，并与其妻重聚。这时他画了他最伟大、最诚实的画像之一，他以毫不宽容自己的写实主义的风格表现他的一家人。三张脸孔里的每一张都是忧伤的：女孩子顺从而几乎没有希望；男孩子忧愁地仰视他的母亲；她看着他们，神色显得极为忧愁而富于情爱——忧愁的是妻子失去丈夫之爱，而情爱则为母亲与其子女在生活上的唯一联系。画了这幅自我控诉的杰作三年后，霍尔拜因再度离家。
在他停留巴塞尔期间，他画了弗罗本的另一幅肖像，并为伊拉斯谟又画了6幅，但不如1523年至1524年所画的那样具有追索般的深沉。市议会重新委托他作议室上的壁画，但屈服于反崇拜偶像者，议会谴责所有的宗教画而规定“上帝曾诅咒那些制造宗教画的人”。委托不成，1532年，霍尔拜因回到英国。
在英国，他画肖像画得极多，在那动乱的岁月中，主宰英国命运的人物大部分靠霍尔拜因的魔力之手仍存人间。在温莎的女王图书馆里有87幅用炭笔或粉笔画的素描，有些是为漫画而作的，大部分则为肖像而画的。显然，艺术家只需要从他题材中得到一两个坐姿图，他就可以从如此的素描中画肖像了。在伦敦的汉撒商会的商人求他作画，但没有激发他产生最好的画。为汉撒商会的公会厅他画了两幅壁画，现只保留其复本或画：一幅表现《贫穷的胜利》，另一幅表现《财富的胜利》。两幅均极富个性，活泼的动作和调和的设计构成的奇迹，说明了该公会格言的含义——金钱是乐趣之父，忧虑之子；缺之者悲，具之者虞。
为了要做这个格言的榜样，托马斯·克伦威尔允许他那生硬的脸孔和柔软的骨架服从霍尔拜因的笔（1534年）。透过他，艺术家找到通往朝廷最高人物的道路。他画了《法国诸大使》，其中之一的查理·索第尔（Charles de Saudier）被他画得极为成功。其他的四位大使——亨利·奎尔弗德、尼古拉·卡雷、罗伯特·切西曼和约翰·尚贝斯——暗示其皮之厚而凭此就能很安全地生活在热度过高的国王的四周。约1537年，霍尔拜因拥有的官方皇室画家的身份使其成为这些上层人士之一。他接受在怀特霍尔宫的一个属于他自己的工厂，住得很舒适，像其他人一样有情妇和私生子，而且穿着彩色的绸衣。他被召唤去装饰房间、设计典礼服装、书的装订、武器、桌上用物品、图章、御用纽扣和带扣以及亨利献给他的太太们的珍珠。1538年，国王送他到布鲁塞尔画丹麦的克里斯蒂娜公主；她显得很迷人，亨利可能很想据她为己有，但她嫁给了洛林的弗朗茨公爵，也许她偏爱被悬挂在画廊上而不愿死于断头台上。霍尔拜因趁机简单地游历巴塞尔，他安排了40基尔德的年金给他太太，然后匆匆返回伦敦。不久受托去画《克里夫的安妮》（Anne of Cleves）；霍尔拜因在这幅肖像（现存于卢浮宫）的眼神上几乎预示了其结局。
他为国王本人画了好几幅大画，几乎全部失传。有一幅现残存于伦敦的理发外科医生厅堂里：《亨利赐颁特许状给理发外科医生公司》，画着亨利穿着城邦官服俯临此地。他为亨利的第三位太太简·西摩和第五位太太凯瑟琳·霍华德画了吸引人的肖像。亨利本人坐或站着给霍尔拜因作画时，画家起而应对挑战，创作出了只有在卢浮或巴塞尔他所画的伊拉斯谟肖像才能超越的肖像。1536年的肖像显示出帝王具有条顿式的自大和强壮。亨利很喜欢这幅画，便任命霍尔拜因把王室家族绘成怀特霍尔宫的壁画。此画于1698年毁于大火，1667年给查理二世所作的复本揭示其杰出的设计：左上是亨利七世，孝敬而中庸；下面是其子，挥舞着权力的象征，像巨人般伸展其腿；右旁是其母和第三位太太；中间是大理石的墓碑，用拉丁文记述国王的德行。亨利八世肖像被精心地画得如此逼真，以致传说进入该宫的人误认此肖像为活着的国王。1540年，霍尔拜因画了一幅更为堂皇的肖像——《穿着结婚礼服的亨利八世》。最后（1542年）他把亨利表现在心身俱衰之中，在此画中，复仇女神内梅西斯（Nemesis）悠闲地工作着，把神的报应从干脆和突然的死亡延长到漫长而屈辱的衰亡。
两幅可爱的画挽救了王室的画廊：其一为两岁时的爱德华王子，天真无邪；另一幅是《六岁时的爱德华》。这第二幅肖像看起来很悦目。我们看到霍尔拜因在两年内不畏缩地描绘这位父亲的肥胖而骄傲，然后以如此神秘的技巧捕捉住这位儿子的诚实的亲切时，我们就可肯定霍尔拜因的艺术了。
45岁（1542年）时，他再度以描绘国王的客观态度画自己：一个怀疑而好闹的人，有不经心修剪的头发和胡子；再度（1543年）在一圆形饰物里以更温柔的心情显示他自己。该年鼠疫侵袭伦敦，并选他为其牺牲者之一。
就技术而言，他是一位至高无上的画家。他观察得过于仔细，而且同样仔细描绘出来；每一个线条、颜色或态度，及每个能显示重要性的光线的投射和变化，都被他捕捉，并被钉在纸、亚麻布或墙上。其线条如此精确，颜色如此有深度、柔和而温暖，将细节排列成统一的结构如此有技巧！但在其目标不在题材而在报酬的许多肖像里，我们看不见人物的秘密灵魂以及让观者产生震动的那种同情心。我们在卢浮和巴塞尔的伊拉斯谟和其家人的肖像中能发现那种感染力。除了在《梅耶尔夫人》外，我们看不见能使扬·凡·埃克《敬拜羔羊》一画高贵的那种理想的现实主义。他对宗教的不关心使其作品缺少格吕纳瓦德（Grünewald）的高贵，并使他和丢勒截然有别，丢勒始终有一脚是踩在中世纪的。霍尔拜因不像提香那样具有文艺复兴的风格，也不像克拉那赫那样具有宗教改革的风格；他有德国、荷兰、佛兰德斯和英国相混而成的那种实事求是和实际的见解。也许他的成功阻止了意大利的绘画原则和精巧技术有效地进入英国。在他之后，清教主义胜过伊丽莎白时代的热情，而英国的绘画凋萎到霍加斯（Hogarth）出现为止。同时，光荣离开了德国的绘画。当美感在中欧再度找到声音之前，野蛮的洪流必须流过此地。
