500年左右，印度的旁遮普地区的数学成就在世界上处于领先地位，尤其在简化数字方面有了重大的突破。印度学者把数字记在一个个格子里，如果第一格里有一个符号，比如是一个代表1的圆点，那么第二格里同样的圆点就表示10，而第三格里的圆点就代表100。
这样，整个数字就是由数字符号及其所在的位置次序共同来表示。之后，印度的学者又创造了零的符号。这些数字符号和表示方法就是今天阿拉伯数字的最初形式。
大约700年左右，阿拉伯人征服了旁遮普地区。他们吃惊地发现，印度人的数学成就比自己先进得多。为了吸收印度的数学成就，771年，阿拉伯人把印度北部的数学家抓到了巴格达，迫使他们传授印度数字及其计数法。从此，印度数字和印度计数法以其简单而又方便的优点，在阿拉伯地区广泛流行起来。就连阿拉伯的商人们去世界各地做生意也采用这种方法。
后来，这种数字被阿拉伯人传入西班牙，10世纪时又由教皇兼学者热尔贝传到欧洲其他国家。1200年左右，阿拉伯数字被欧洲的学者正式采用，之后逐渐走进了普通欧洲人的世界。到15世纪时，欧洲已经普遍使用阿拉伯数字。不过，那时的阿拉伯数字的书写方式与现代的阿拉伯数字尚不完全相同，后来经过许多学者的努力，才使它们变成今天的样子。
大约在13～14世纪，阿拉伯数字传入中国，由于中国古代有一种数字叫“筹码”，写起来比较方便，所以阿拉伯数字在当时没有受到重视。20世纪初，随着中国对外国数学成就的引进和吸收，阿拉伯数字在中国才开始正式使用。尽管阿拉伯数字在中国推广时间较晚，但它很快就成为中国最常用的数字了。
阿拉伯数字虽然起源于印度，但却是经由阿拉伯人的传播后才为世界各地所广泛接受的，因此人们将其称为阿拉伯数字。
