Durante nuestro recorrido por las canteras, nos cuenta Juan Ortega Madrid, podemos observar varias cuevas excavadas en la roca en la base de los tajos. Estas cuevas son de pequeñas dimensiones, con mayor anchura que profundidad. Algunas de ellas presentan el interior ennegrecido por el humo, lo que indica que se utilizaban para hacer fuego. También destacan las numerosas cavidades en forma de hornacinas y repisas situadas a media altura y a nivel del suelo, que probablemente se utilizaron como pilones o comederos para animales.
Estas cuevas han tenido diversas funciones a lo largo del tiempo. En un principio, se utilizaron como almacenes o alojamientos para los trabajadores durante el funcionamiento de las canteras. Posteriormente, se convirtieron en viviendas trogloditas, tenás (tinadas) para el ganado y, posiblemente, como refugios durante la guerra.
Entre todas las cuevas, destaca una en particular, que es la única con la entrada orientada hacia el norte, mientras que la mayoría de las demás miran hacia el sur. Dos de ellas miran hacia el oeste y una hacia el este. Esta cueva en particular, me lleva a pensar que podría haber sido utilizada como oratorio. La presencia de una hornacina llamativa junto a la entrada, que bien pudo haber albergado una imagen sagrada, así como la cruz meticulosamente tallada en la fachada, centrada sobre el vano de entrada y las cuatro líneas de texto grabadas en mayúsculas y de 15 centímetros de alto, me hacen pensar en la posibilidad de que se tratara de algún tipo de texto religioso, como una oración, salmo o versículo. Además, la única palabra que se identifica claramente en el texto es "VIÑA", lo que, junto con la longitud total del texto y su posible uso como oratorio, lleva a pensar al autor que podría haber sido algún tipo de texto religioso relacionado con la viña.