“大学”是拉丁文“universitas”一词的译名，原意为“总和”、“联合”，指学生和教师组成的联合社团。虽然高等教育早在数千年之前的古埃及、中国等地已经起源，但真正意义上的大学是11至12世纪时在欧洲建立起来的。
世界上最早的大学是意大利的波伦亚大学，建立于1087年；随后，法国巴黎大学和英国牛津大学、剑桥大学相继问世。波伦亚大学是在意大利波伦亚法律学校的基础上形成的，开始时只有法科，后来增设医科和神学院。该校的法学教育促进了罗马法的复兴，从而加速了人文思想的传播。波伦亚大学有专门的学生自治组织，学生们通过该组织在行政上有效地实现自我管理；他们可选定自己所学习的课程和教材，决定上课时间和假期的长短，甚至可就教授的薪酬标准参与意见。巴黎大学形成于12世纪中期，是在巴黎圣母院的基础上建立的，以神学研究最为著名；教师们通过类似行会的自治组织，一方面抵制巴黎教会的控制，另一方面负责学校的管理；学生最多时达5万人，被称为“大学之母”。波伦亚大学的学生治校和巴黎大学的教师治校，成为后来中世纪欧洲大学所仿效的两种管理模式。1167年，巴黎大学中的英国学生返回自己祖国，组建了英国的牛津大学。1209年，牛津大学中的部分教师离校到剑桥定居，组建了剑桥大学。至13世纪，意大利的萨勒诺大学、巴勒摩大学，西班牙的萨拉曼加大学，德国的海德堡大学，法国的奥尔良大学相继建立。14世纪时，东欧的布拉格、克拉科夫也有了自己的大学。到16世纪，全欧大学已有80余所。
大学的建立是中世纪社会和文明发展的成果。11世纪，西欧的经济逐渐繁荣，城市兴起，商业发展，人们之间的贸易越来越频繁，商贸规模也越来越大。商业活动需要大批的专业人才，新兴的市民阶层希望推行世俗教育，城市经济能力的增强也为大学提供了资金的支持，这些都推助了大学的诞生。
中世纪大学与现代大学的组建模式有较大差别。它没有稳定的经费来源，没有固定的校舍，基本上不设入学门槛，对每一位有求学愿望的学生都是开放的；学校对学生管理也相对宽松，学生可以自由地从一所大学转到另一所大学学习。中世纪大学拥有一定的自治权，这在一定程度上避免了来自政治、宗教和世俗势力的干预，使学术研究有相对宽松的氛围，有利于师生的自由探索和学术的发展。在很长一段时间内，欧洲大学中的通行语言为拉丁语，教科书的文字和课堂教学、演讲都使用拉丁语，这有利于教学，也便于来自不同地区和国家的学生相互间的沟通和交流。
中世纪大学创建之初，教学内容和课程设置没有固定的程式，教师有较强的自主权，也有很大的随意性。从13世纪起，经教皇命令和大学法规确定，大学课程逐步趋于统一，一般设文、法、医、神四个学科。其中，神学是地位最高的学科，主要学习《圣经》及经院哲学家的神学著作；文科主要学习“七艺”，即文法、修辞、辩证法、算术、几何、音乐、天文。
中世纪大学是现代大学的基石，后来欧洲现代大学构建的基本模式和理念多源出于此。
