塔什库尔干作为丝绸之路的一站有着悠久的历史。主要商队路线在此汇聚,北至喀什,东至卡尔吉利克,西至巴达赫尚和瓦罕,西南至吉德拉尔和罕萨(今巴基斯坦开伯尔-普赫图赫瓦省和吉尔吉特-巴尔蒂斯坦)。
大约2000年前的汉代,塔什库尔干是《汉书》和《后汉书》中记载的蒲犁王国的主要中心。后来它被称为 Varshadeh。
塔什库尔干在突厥语中意为“石头堡垒”或“石塔”。该镇的历史中文名称是直译“石头城”。
有学者认为,塔什库尔干就是托勒密在其名著《地理学》中提到的“石塔”,据说是古丝绸之路上欧洲和中国之间的中间点。然而,其他学者不同意这种鉴定,尽管它仍然是 ”石塔“ 最可能的地点之一。
几个世纪后,塔什库尔干成为位于帕米尔高原的萨勒库勒王国的首都,后来又成为波斯帝国谒盘陀的首都。城镇的东北角有一座巨大的堡垒,称为塔什库尔干堡垒,其历史可追溯至元朝(公元 1279-1368 年),也是许多丰富多彩的当地传说的主题。要塞附近有一座被毁的火神庙。公元 649 年左右,佛教僧人玄奘从巴达赫尚前往和阗途中途经塔什库尔干,宋云也在公元 500 年左右经过塔什库尔干。
二十世纪初期,当奥雷尔·斯坦因经过这座城镇时,他高兴地发现塔什库尔干与那些旅行者留下的描述相符:在讨论切盘托时,玄奘记录(塞缪尔·比尔的翻译):“这个国家大约有200里的周长;都城依山巨岩,背靠西塔河,周约二十里。”