海顿很易讨人喜爱，因为他除了自己的妻子外，不与任何人争吵，对他的敌手有如朋友，他的音乐里充满了欢愉，找不出丝毫悲剧气息。
他没有良好的身世，父亲是在奥匈帝国边界上的小镇罗劳制造篷车的工人和粉刷房屋的油漆匠，他的母亲曾是哈拉赫伯爵的厨师。双亲的先祖都是斯拉夫—查罗西亚人，不是日耳曼人，而海顿的许多旋律都反映克罗地亚民歌。他是12个孩子中的次子，而其中有6个在婴儿时代就已夭折。他受洗的教名是弗朗茨·约瑟夫·海顿，但通常只用约瑟夫。
6岁时，他被送到在汉堡管理一所学校的亲戚弗兰克的家里。在那里的日子，早上从7点到10点上课，然后望弥撒，再回家午餐，下午12点到3点上课，然后学音乐。他在此所受的教养使他内心虔诚，终生不渝。他母亲渴望他成为牧师，他选择音乐家的艰难生活时，母亲非常忧伤。弗兰克鼓励这个孩子对音乐的热爱，并将他能力所及的教给他，并要求他严格而规律地学习。海顿年老时以宽容之心回忆道：“在我有生之年，我将感谢那人曾使我辛勤地工作，虽然我得到的责罚总是比食物多。”在弗兰克家中住了两年后，他被圣史蒂芬教堂的指挥乔治·鲁特带到维也纳。鲁特认为他“脆弱而甜美的声音”可以在唱诗班谋得一个小职位。因此，这位胆怯而热诚的8岁少年住进坎特雷（Kantorei）或称“歌手学校”（Singers’ School），并加入国家大教堂。他在那里接受数学、书写、拉丁文、宗教、歌咏和小提琴的课程。他在总教堂和皇家的小教堂里演唱，但他吃得太差，因此乐意被召请到私人家庭演唱，在那些地方，他除了唱歌还可填饱肚子。
1745年，他的弟弟米契尔也到坎特雷与他相聚。这时，约瑟夫的声音开始转变。人们要他阉割以保持高音部歌喉，但他的双亲拒绝同意，鲁特尽可能地长久收容他。1748年，约瑟夫已16岁，觉得自由而贫穷，而且没有出色之处，不足以赢取好的命运。他的脸上布满天花，鼻子醒目，双腿过短，衣服破旧，步履蹒跚，态度羞怯。他对任何乐器都还不熟练，但他已在脑子里打算作曲。
唱诗班的一位队员供给他一间阁楼小房住宿，布赫霍尔兹借给他150弗罗林，诚实的海顿后来偿还了。他必须每天提水到他的阁楼，他在那里放了一架旧键琴，教导学生以维持生计。大多数日子里，他工作16小时，有时更多。他在一间教堂里拉小提琴，在玛丽亚·特蕾莎的牧师豪格维茨伯爵的私人小教堂里弹风琴，偶尔也在圣史蒂芬教堂唱男高音。有名的梅塔斯塔西奥住在同楼的一个房间，请海顿教一位朋友的女儿。经过梅塔斯塔西奥的介绍，海顿认识了波尔波拉，他情愿为这位歌王做任何杂事以获得作曲指导。他一面接受宝贵的课程，一面为这位音乐大师清理鞋子、大衣和假发，并为波尔波拉和他的学生伴奏。海顿回忆道：“年轻人可以从我的例子里学到无中亦可生有的道理，我的成就都源自急切的欲望。”
经过一些新的朋友，他认识了格鲁克、迪特斯多夫和几位贵族。佛恩柏格让他长期住进靠近梅尔克的维恩兹尔乡间的房子。他在那里组织6人管弦乐团，并有闲暇创作。现在他开始写他最早的四重奏。他将采自巴赫的三个乐章奏鸣曲加上一章小步舞曲，并修改为四重奏，成为现在弦乐四重奏的形式。1756年，他回到维也纳，招收特殊学生如图恩女伯爵，并接受莫尔津伯爵的聘请，担任音乐指挥（1759年）。此12人（16人）私人管弦乐团，冬天在维也纳、夏天在波希米亚的卢卡维克伯爵的别墅演奏。海顿写下第一部交响乐（1759年），以为合奏。
现在他每年赚200弗罗林，还有房屋膳食，他认为他可以冒险结婚了。他的学生中有假发匠的两个女儿，他爱上年轻的妹妹，但她做了修女。父亲便劝他与姐姐玛丽亚·安娜结婚（1760年）。她31岁，而海顿28岁。她的行为证实她是一个爱口角、心地狭窄、浪费而粗野的女人。“她一点也不关心，”海顿说，“到底她的丈夫是补鞋匠还是艺术家。”他开始注意别的女人。
莫尔津家的听众中常有一位帕恩顿·埃斯特黑齐王子。莫尔津解散管弦乐团后，王子便请海顿担任他匈牙利爱森斯塔特乡村别墅的副音乐指挥。此合约的待遇每年400弗罗林，与官员们同桌进餐，尤其是：“召集乐团公开演奏时……音乐家们得穿制服……白袜子、白色亚麻衬衫、绑辫子或系假发。”爱森斯塔特乐团指挥维尔纳热衷于宗教音乐。海顿准备演奏会，并为他们作曲。他手下有14位音乐家、7位歌手和从王子仆从中选出的合唱团。这个小规模乐团和听众的性质，决定了海顿为埃斯特黑齐写的音乐具有轻巧而愉悦的特质。他和蔼的性情使他受到音乐家的欢迎，他到爱森斯塔特不久，便被称为“海顿爸爸”，虽然他当时只有29岁。他为他们写奏鸣曲、三重奏、四重奏、协奏曲、歌谣、清唱曲和将近30支交响曲。大部分作品虽依合约属于王子，但在维也纳、莱比锡、阿姆斯特丹、巴黎和伦敦出版，或以手稿流行，于1766年使海顿赢取了国际声誉。
帕恩顿逝世后（1762年3月18日），其弟麦克罗斯·约瑟夫继为斯塔特族的家长。他对音乐的爱正如他对那缀满宝石衣服的爱一样。他拉得一手古波尔当中音提琴（古中提琴的另一款式），而且在30年合同中，始终为海顿友善的主人。海顿说：“我的王子永远满意我的作品。我不仅因不断的赞许而有勇气，并以管弦乐团团长身份做各种尝试，注意什么能发挥力量，什么会减弱，而且在适当处改进、转变……任我大胆运用。我与世隔绝，没有人干扰我、折磨我，我只有变得更创新。”
1766年3月5日，维尔纳去世，海顿成为乐团总指挥。不久，主人迁入匈牙利西北新锡德尔湖南端的新宫——施洛斯·埃斯特黑齐。王子非常喜欢这个地方，从初春住到整个秋天，冬天才移往维也纳，音乐家们有些随行。演奏者和歌手都埋怨这种乡居的孤立，尤其是一年有三季与他们的妻子儿女们分隔，但他们享有优厚的待遇，因此不敢抱怨。一次，为了暗示麦克罗斯，他的音乐家们都盼望离去，海顿作《告别交响曲》（Farewell Symphony，第五号）。其中结尾时，一件件乐器连续从乐谱上消失，音乐家熄灭他的烛光，提起乐谱与乐器，离开舞台。王子看出用意，便设法让团员早些前往维也纳。
海顿被特许带妻子至埃斯特黑齐。但他不感激这个特权。1779年，他爱上路齐亚·波兹莉，她与拉小提琴的丈夫安东尼奥同被麦克罗斯聘请。海顿似乎认为既然天主教不允许他离弃厌烦的妻子，便应慈悲地让他另有一两个安慰。他并不掩饰他们的关系。安东尼奥年老多病，无法强烈抗议，而且也清楚他之所以能保住职位，是因为总指挥喜爱路齐亚。她到埃斯特黑齐时已有一个2岁大的儿子，1783年，又生了一个男孩。流言将这个男孩归于“海顿爸爸”，海顿一样疼爱这两个儿子，终生照顾他们。
那些在埃斯特黑齐忙碌的岁月里，海顿缺少外界刺激与竞争，缓慢地成长为成熟的作曲家。他直到32岁仍未写下值得永存的作品，当时莫扎特除了《魔笛》（The Magic Flute）和《安魂曲》（Requiem）外，已完成他的全部作品。海顿最好的作品在50岁以后才出现，最重要的交响乐是在近60岁时创作的。《天地创造》是在66岁时作的。他在埃斯特黑齐曾写下几部歌剧以备演奏，但布拉格邀请他提供一部歌剧与《费加罗的婚礼》和《唐·乔瓦尼》同时参与一系列演出时，他在一封谦恭的信中表示犹豫（1787年12月）：
你热切地期望我写一部轻歌剧……如果你将在布拉格演出，我便不能允诺你。我的歌剧不能与这个乐团分离，这些歌剧原为他们而作，失去其天生的环境便不能产生预期的效果。如果我有幸受命为贵院作一部新剧，那完全是另外一回事。即使如此，让我与伟大的莫扎特竞争仍是冒险的。如果我能激发另一位音乐喜爱者，特别是那些伟人，以如我一般深厚、欣赏、明白的感情聆听莫扎特杰出无比的作品，那么所有国家都会互相争夺，以求国境内拥有这样一颗明珠。布拉格必得奋力掌握这个财宝，但也得付出相当的报酬。缺乏这往往会使一个伟大的天才感到悲哀，而且无法鼓励他们花费更多的精力和时间。我很为莫扎特至今仍未受任何王室或皇家宫廷资助而抱不平。原谅我扯离题了，莫扎特是我深爱的人。
海顿自己很盼望另有某个宫廷，以便更充分地施展他的才能，但他应该满足于各皇家的赏赐。礼物来自那不勒斯的斐迪南四世、普鲁士的腓特烈·威廉二世、俄罗斯女大公玛丽亚·费奥多罗芙娜。1781年，西班牙查理三世赏他一盒装满钻石的金质鼻烟盒，并由驻维也纳的西班牙大使亲自将这小宝物送至埃斯特黑齐。也许当时正住在马德里的博凯里尼曾插手此事，因为他疯狂地热爱海顿的风格，被戏称为“海顿的妻子”。当加的斯的天主教分会决定聘请一位音乐家为“基督的临终七言”配乐时，便求于海顿，他交出一部圣乐（1785年），很快便在许多地方公演——美国早于1791年演出。1784年巴黎的一位制作家要求他作6首交响乐，海顿献出6部《巴黎交响乐》（Paris Symphonies）。不少人邀请他到伦敦开演奏会，海顿觉得对埃斯特黑齐有忠诚和契约的约束，但在私人的信件中透露出他愈来愈渴望一个更大的舞台。
1790年9月28日，麦克罗斯·约瑟夫王子逝世，新王安顿·埃斯特黑齐不关心音乐。他几乎解聘所有音乐家，却留下海顿，名义上仍为他服务，每年给他1400弗罗林的恩俸，随他高兴居住在任何地方。海顿几乎是仓皇地赶赴维也纳。现在许多人邀请他，最热诚的是约翰·彼得·萨洛蒙，他表示：“我从伦敦来接你，我们明天就得达成协定。”他供酬每一部新歌剧300镑，6部交响乐300多镑，版权200多镑，在英国演奏20场200多镑，为海顿义演的一场演奏会可获利200镑以上，总共1200镑。海顿不懂英文，而且畏惧横渡海峡，莫扎特恳求他不要接受这种劳苦和冒险，“啊！爸爸！你一点也不了解这个广阔的世界，而且你只能说有限的英语！”海顿回答：“但我的语言全世界都能了解。”他将麦克罗斯王子送给他的埃斯特黑齐的房子拍卖，以赡养他的妻子和情妇，便开始他的大冒险。离开之前，他与莫扎特一起度过最后一段时光，莫扎特挥泪送别：“我很害怕，爸爸，这将是我们诀别的时候。”
海顿和萨洛蒙在1790年12月15日离开维也纳，1791年元旦抵达伦敦。他的第一场演奏会（3月11日）成功了，《记事晨报》（Morning Chronicle）的报道末段写道：“我们无法压抑内心最热切的希望——这位本世纪最伟大的天才，能因为我们自由的欢迎而定居在英国。”所有演奏会都进行得很好，5月16日的一场义演获得了350镑，让海顿高兴异常。那日，他参加威斯敏斯特大教堂举行的亨德尔纪念演奏会，欣赏《弥赛亚》，他感动得落泪，谦虚地说：“亨德尔，我们全民的主人。”伯尔尼建议牛津大学颁赠一项荣誉学位给这位新亨德尔，结果获得通过。海顿便在6月前往该校，成为音乐博士，并演出《G大调交响乐》（第92号）。这首曲子在3年前已完成，但自此历史上称之为《牛津交响曲》（Oxford Symphony）。它可爱而文雅的节拍令人回想起英国古老的歌谣《兰道伯爵》（Lord Randall）。
海顿认为英国的乡村有如种子和雨露的神奇化身，便在返回伦敦后很高兴地接受邀请到别墅去。他在那里和城市中，都赢得了许多朋友，因为他总是愿意在私人集会上愉快地演奏并歌唱。他收程度高的学生教导作曲，其中有位平凡而富有的寡妇约翰娜·施勒特尔。虽然这时海顿已经60岁，但他的风采令她着迷，她自愿献出她的爱意。他后来说：“如果我是单身汉，非常可能与她结婚。”同时，他的妻子不断急切地催他回家。在一封给路齐亚·波兹莉的信中他愤慨地说：“我的妻子，那个可厌的家伙，写信告诉我那么多事，我不得不告诉她我再也不回去了。”
他一方面承认并赡养3个女人，一方面勤奋工作，写出12部《伦敦交响乐》中的6部，这些作品较他在爱森斯塔特和埃斯特黑齐的作品更有显著的进步。也许是莫扎特的交响乐触发了他，或许是受英国人的激励，或许聆听亨德尔拨动了他从未被宁静的匈牙利山谷触摸过的心灵深处，或许他的恋情使他也能像处理单纯的快乐一样，将情感处理得很好。他发现很难离开英国，但他与安顿·埃斯特黑齐王子有约在先，而对方坚持要海顿回来，在为弗朗西斯二世皇帝加冕所举行的庆典上，分担演出。因此，他于1792年6月底，再度勇敢地冒着横渡英吉利海峡的危险，从加来港到布鲁塞尔、波恩，与当时22岁的贝多芬参加在法兰克福举行的加冕典礼，于7月29日抵达维也纳。
没有一家报纸报道他归来的消息，也不为他安排任何演奏会，宫廷拒绝他。莫扎特一定会欢迎他，但这时莫扎特已不在人世。海顿写信给他的遗孀，表示愿意义务教导莫扎特的儿子，恳求出版家大量印行莫扎特所作的乐曲。他与妻子共住一间现已保存作为海顿纪念馆的房子，妻子要求他把财产权拨归她的名下，但遭他拒绝。他与妻子争吵得更厉害。贝多芬于1792年12月起跟他学习。这两位天才相处得并不和谐，贝多芬骄傲而专横，海顿称他为“那个自大的人”，而且太专心于自己的工作，没有尽职地批改他这位学生的习作。贝多芬私下找别的老师，但仍跟海顿上课。“我没有从他那里学到任何东西。”这位年轻的“泰坦”说。不过，他早期的许多作品追随海顿的风格，其中有些是为了献给这位年迈的大师的。
1792年，在奥地利尤其是罗劳镇，人们对海顿愈来愈欣赏。哈拉赫伯爵为这位已出名的该镇之子建立一座纪念碑；但英国胜利的回忆和友谊仍使他感觉温暖，因此萨洛蒙再提出赴伦敦的第二份契约，请他写作6部新的交响乐时，这位作曲家迅速地答应了。他于1794年1月19日离开维也纳，2月4日抵达伦敦。这次在伦敦18个月的逗留期间，开始时获得令人振奋的成功。第二组《伦敦交响乐》（99号—104号）非常受欢迎，海顿在一场义演中净得400镑，学生们每一课付一基尼，而休罗特夫人就住在附近。他再度成为贵族的宠儿，威尔士亲王都接纳他，王后赠他一座温莎城的住所，以便他愿留在英国再过一段时期时，供作夏天居住之所。他托辞新王子埃斯特黑齐召他回去，并以不能与妻子分离这么久为理由而拒绝接受。这时安顿王子已经去世，继任的麦克罗斯二世王子希望恢复斯塔特弦乐演奏。因此，他收拾行装，带着满满的钱袋，于1795年8月15日离开伦敦返回家园。
他探望过在罗劳的自己的雕像之后，到爱森斯塔特向麦克罗斯报到，并在那里为许多场合安排音乐演奏。1796年至1797年，拿破仑正企图将奥地利赶出意大利，而且奥境内革命情绪高涨，震撼哈布斯堡王朝。海顿回想起《天佑国王》的歌声曾如何激起保卫英国汉诺威王朝的情操。另一首国歌不也能对弗朗西斯二世起同样作用吗？他的朋友斯维顿男爵（玛丽亚·特蕾莎的医生之子）向内政部长索罗伯爵建议，索罗指定利奥波德·哈斯卡作词，这位词人写出“上帝保佑约瑟夫皇帝，我们伟大的约瑟夫皇帝”，海顿将这些句子配上一首古老的克罗埃西亚民谣，便成为一首简单而激昂的国歌。此歌于1797年2月12日皇帝诞辰，首次公开在奥匈帝国境内所有公立剧院演唱。这首歌一直被采用，歌词中某些字句修改后即作为奥地利国歌，直至1938年。海顿将此旋律变化发展为其作品76号第四首弦乐四重奏的第二乐章。
依旧受了亨德尔魔力的号召，海顿接着想与《弥赛亚》对抗。萨洛蒙提供他一部编自弥尔顿《失乐园》（Paradise Lost）的歌剧。斯维顿将剧本译成德文，海顿作大神剧《天地创造》。1798年4月29日至30日，《天地创造》便在施瓦岑贝格亲王的皇宫，在邀请来的听众前演奏。众多的听众聚集皇宫外面，因此要50位骑马的警察（我们至今确信）维持秩序。1799年3月19日，由亲王赞助在国家剧院公开演出一场，所得之款（4万弗罗林）全归作曲家。听众们几乎以宗教狂热欢迎它，不久每个基督教国家的大城市几乎都听到那首圣乐。天主教廷指责这样庄严的史诗作曲太轻快，席勒与贝多芬都认为海顿模仿伊甸园动物很可笑，但歌德称赞此部作品，而且19世纪普鲁士演奏此曲远较任何圣乐频繁。
斯维顿提供另一部歌剧，采自汤姆森的《四季》（The Seasons），海顿为它工作近两年（1799年至1801年），而耗去许多精力。关于《四季》，他说：“已使我不堪负荷。”初演时很受欢迎（1801年4月24日），却未引起广泛而持续的热情。在指导为一所医院义演《基督临终七言》后，海顿便从活跃的生活中退休了。
他的妻子于1800年3月20日去世，这时他已衰老得无法自由活动，但他仍然拥有声望。他已被公认为音乐家的领导者，十多个城市赠予荣誉，有名的音乐家——凯鲁比尼、韦伯、伊格那兹·普莱耶尔、约翰·胡美尔都来向他表示敬意。但风湿、晕眩和其他症状使他忧郁、暴躁，而且极端虔诚地信神。卡密尔·普莱耶尔在1805年访问他，“发现他手上拿着一串念珠，我相信他整天都在祈祷。他不断地说他的末日已到……我们没有久留，因为我们看出他想要祈祷”。同年一则错误的报道称海顿已经过世。凯鲁比尼为他的去世写了一首《歌咏曲》，巴黎计划以莫扎特的《安魂曲》举行一场纪念性的演奏。然后消息传来，老人仍然活着。海顿知道后说：“若真的演奏，我一定要自己到巴黎指挥《安魂曲》。”
他最后一次公开露面，是在1809年3月27日，在维也纳大学演唱《天地创造》，以庆祝他即将来临的76岁生日。埃斯特黑齐王子派他的马车去接这位衰弱的老人到会场。海顿坐在一张扶手椅上，被抬进坐满贵族名士的大厅，公主们用她们的围巾包住他抖颤的身体，贝多芬跪下来吻他的手。这位老作曲家激动过度，不得不在中场休息时送他回家。
1809年5月12日，拿破仑的大炮开始轰击维也纳。一颗炮弹落在海顿家附近，震撼了房屋和同住的人们，但海顿向他们保证：“孩子们，不要害怕，只要海顿在，你们便不会受到伤害。”这话果真不假，但他自己被此次的轰炸震坏了神经系统。法国攻下此城之后，拿破仑派了一队卫兵守在这位作曲家门前。一个法国官员进入时，唱着《天地创造》中一首抒情调，表现“那样男性化与壮丽的风格”。因此，海顿拥抱了他。5月31日他去世，享年79岁，欧洲主要的城市都曾举行纪念他的仪式。
海顿在历史上的成就，是发展音乐的形式。他以管乐器和敲打乐器平衡弦乐器，使弦乐团产生新的活力。借着萨马提尼、斯塔密茨和小巴赫的作品，他建立了奏鸣曲的形式，使它的对比主题具有证明性、精致而扼要。他为莫扎特准备了重奏小夜曲，虽然没有组曲正式，但较易为社会大众接受。他将弦乐四重奏扩大为四乐章，而且定第一乐章为奏鸣曲形式，因此奠下弦乐四重奏的古典型式。现在海顿的后继者必须使用与海顿所用相同数量和品质的乐器。我们从贝多芬晚期四重奏的深渊中逃脱而松一口气时，不免认为海顿颇具有愉快、温柔的可爱处。
海顿的104首交响曲中有9或10首现仍存在。它们附加的名字并不是他取的，而是评论家或出版家使用的。我们在其他地方已注意到歌剧序曲（集合的声响）经过萨马提尼和斯塔密茨的实验，由序乐而演化，其他许多人观察到海顿如何塑造“古典”交响乐的结构。他从埃斯特黑齐移入一个较广阔的世界时，他仍未老化得不能向莫扎特学习如何将此结构加上重点和感觉。《牛津交响曲》显示出他已走向更丰富、有力量，《伦敦交响乐》表现他的交响乐顶点。101号《时钟交响曲》（The Clock Symphony）很快活，作品104号颇有莫扎特之风。
大致上，我们发现他的音乐有着善良、优雅的特性。它可能从未深入忧伤或爱的感受，而且使其制作过于急促。因此，概念、主题和乐句都不够圆熟。海顿太幸福了，因此不能壮丽伟大，也不够丰富。然而，在这嬉戏的乐谱中，蕴涵着珍贵纯洁而宁静的喜悦。正如他所说的：“衰弱的伤残的人们或被事务困扰的人们，都可以享受一些安慰和清爽。”
海顿逝世后不久就过时了。他的作品反映一个安定的封建世界，贵族安全而闲逸的环境。它们过于愉悦、自满，无法适应一个充满革命、危机与浪漫的狂喜和绝望的世纪。直到勃拉姆斯赞赏他，德彪西写下“向海顿致意”，海顿才重受敬爱（1909年）。人们那时才了解，追随海顿这位音乐上的拉斐尔和米开朗基罗，能以更精密、熟练的方法将更深刻的思想倾入他们的作曲中，那全因为海顿及他的先驱们已塑造好储藏他们的黄金的形式。“我知道上帝赋予我一项天才，”海顿说，“我为此感谢它。想来我已尽了我的职责，成为有用的人……愿他人也能如此。”
