神经科学的诞生要追溯到2500年前的希波克拉底（Hippocrates），虽然和他同时代的人，比如亚里士多德（Aristotle），认为思想应该存在于心脏里，希波克拉底却辩称大脑才是思想、感受、情绪和认知的基础。
这是历史的一大进步，不过受制于早期理论的局限性，过了很久，人们才对大脑有了更深入的理解。那时人们无视大脑的实体组织，更青睐于大脑中那些充满液体的孔洞，也就是脑室。这一倾向最有名的代表人物可能当属公元2世纪的医生盖伦（Galen），他认为人的大脑有3个脑室，它们分别负责想象、推理和记忆。
根据盖伦的理论，大脑会将液体从脑室经由神经泵进其他器官，从而控制机体活动。由于盖伦的声望，这个观点深远影响了我们对大脑的理解。这个液体理论直至17世纪中后期依然占据着主流，甚至法国著名哲学家勒内·笛卡儿（René Descartes）也将大脑比作液压机。但是这个观点有一个重大缺陷，那就是流体流动的速度太慢，无法解释我们反应的速度之快。
当新一代解剖学家开始描绘出更精细的大脑结构后，另一个更加先进的解释大脑运作方式的观点出现了，其中尤为杰出的是17世纪的英国医生托马斯·威利斯（Thomas Willis）的理论，他认为大脑运作的关键并非脑室，而是大脑的实体组织。100年后，意大利科学家路易吉·伽伐尼（Luigi Galvani）和亚历山德罗·伏特（Alessandro Volta）向人们展示了外接电源的电流能够激活神经和肌肉。这项成果十分关键，因为它总算揭示出了人类对外界刺激反应如此迅速的原因。不过直到19世纪，德国生理学家埃米尔·杜布瓦-雷蒙（Emil du Bois-Reymond）才证实了神经元和肌肉本身能产生电脉冲。
这为现代神经科学奠定了基础。现代神经科学始于20世纪初，以西班牙解剖学家圣地亚哥·拉蒙-卡哈尔（Santiago Ramón y Cajal）在20世纪初的工作为起始。他以其深刻的洞察力发现了大脑是由神经元所构成的，而且不同于其他器官，大脑里的神经元形式多种多样。最不可思议的是，他注意到昆虫的神经元大可媲美人类最复杂的脑细胞，其中有些甚至比人的还复杂。这意味着，赋予人类各种能力的不是细胞本身的什么特点，而是神经元间的连接方式。卡哈尔的“连接论”开启了一扇新的大门，为人们理解大脑的信息处理方式提供了新思路，并至今仍是主流。
