數學的源頭在數、量和形之中。現代對動物認知的研究表明,這並不是人類特有的概念。這些概念是狩獵者-採集者社會中日常生活的一部分。在一些語言的詞彙中,保留了「一」、「二」、「很多」的區別,但並沒有大於二的數,這個事實支持了「數」的概念是隨時間而演化的說法。
史前的人類就已嘗試用自然的法則來衡量物質的多少、時間的長短等抽象的數量關係,如時間-日、季節和年。算術(加減乘除)也自然而然地產生了。古代的石碑亦證實了當時已有幾何的知識。
已知最古老的數學工具是發現於史瓦帝尼萊邦博山的萊邦博骨,大約是公元前35,000年的遺物。它是一支狒狒的腓骨,上面被刻意切割出29個不同的缺口,使用計數婦女及跟蹤婦女的月經週期。相似的史前遺物也在非洲和法國出土,大約有35,000至20,000年之久,都與量化時間有關。。發現於尼羅河上源之一的愛德華湖西北岸伊香苟地區(位於剛果民主共和國東北部),或許有20000年甚至更久,則刻有三組一系列的條紋符號,每列和骨頭等長。常見的解釋是已知最早的質數序列,亦有認為是代表六個陰曆月的紀錄。 學者彼得·魯德曼否認質數序列的解釋,他認為質數的概念只能出現在除法之後,而他認定除法是在公元前1000年後才出現的,因此在公元500年以前,質數是不太可能被理解 的。他寫道,「一個計數符號之類的東西為什麼要展示2的倍數,10到20之間的質數,和一些幾乎是10的倍數,這是沒人嘗試解釋過的」。而根據學者亞歷山大·馬沙克的說法,這個骨頭可能影響了隨後埃及數學的發展。因為埃及算術就像這塊骨頭一樣,也使用了2的倍數,然而,這也是有爭議的。
其他地區亦發現不同的史前記數系統,如符木或於印加帝國內用來儲存數據的奇普。
在幾何學方面,公元前五千年的古埃及前王朝時期即已出現用圖畫表示的幾何圖案。也有人聲稱,年代大約是公元前三千年的英格蘭和蘇格蘭地區的巨石文化遺址中,也發現了融入幾何觀念的設計,包括圓形、橢圓形和畢達哥拉斯三元數。然而上述發現也全部有爭議,而目前最早的無爭議的數學史料當前依然是來自古巴比倫和古埃及史後的。
從歷史時代的一開始,數學內的主要原理是為了做稅務和貿易等相關計算,為了了解數字間的關係,為了測量土地,以及為了預測天文事件而形成的。這些需要可以簡單地被概括為數學對數量、結構、空間及時間方面的研究。