Los primeros habitantes de la zona se remontan a épocas anteriores al Imperio Inca, con culturas como Marcavalle, Wari y Killke. Existen restos arqueológicos que evidencian esta ocupación en zonas como Qoripujio, Qotakalli, Andenes de Ccollana y otros. 

Durante el Tahuantinsuyo, San Sebastián fue parte del sistema agrícola y de control territorial inca. Se construyeron andenes, canales de riego y caminos que todavía se conservan en algunas zonas. Además, se veneraban apus (montañas sagradas), como el Apu Wanakauri, considerado uno de los cerros tutelares de la región. 

El 20 de enero de 1562, el corregidor Polo de Ondegardo fundó el pueblo de San Sebastián como parte de las reducciones indígenas implementadas por el virrey Francisco Álvarez de Toledo. Se construyó la Iglesia de San Sebastián, famosa por su arquitectura mestiza y por ser decorada por artistas como Diego Quispe Tito, uno de los principales representantes de la Escuela Cusqueña.