การก่อสร้างห้องสมุดประชาชนอำเภอเวียงสระ ได้คิดริเริ่มมาตั้งแต่ปี พ.ศ. 2523 ซึ่งในขณะนั้นอำเภอเวียงสระ จัดเป็นอำเภอราษฎร์รัฐพัฒนา
นายอำเภอขณะนั้น คือ ร.ต.พิมล สุวรรณสุภา ศึกษาธิการอำเภอขณะนั้น คือ นายเฟื่อง ศิริรัตน์ ได้คิดโครงการจัดสร้างห้องสมุดประชาชนขึ้น จึงได้มีโครงการเสนอไปจังหวัด เพื่อของบประมาณในการจัดสร้าง
ศึกษาธิการจังหวัดในขณะนั้น คือ นายประจวบ รัตภูมิ ได้เสนอเรื่องต่อไปยังกรมการศึกษานอกโรงเรียนเพื่อขออนุมัติงบประมาณในการก่อสร้าง แต่เรื่องได้เงียบหายไป จนถึงปี พ.ศ. 2527 งบประมาณการก่อสร้างห้องสมุดประชาชนอำเภอเวียงสระ ก็ได้รับการจัดสรรเงินเป็นจำนวน 700,000.- บาท (เจ็ดแสนบาทถ้วน)
นายอำเภอขณะนั้น ชื่อ นายทวีป รัตน์อมร นายบุญมา หาญพานิช (รักษาการในตำแหน่งศึกษาธิการอำเภอ) ได้ร่วมกันปรึกษาจัดหาสถานที่ที่จะก่อสร้างในที่สุดก็ได้ตกลงเอาสถานที่หน้าที่ว่าการอำเภอเป็นสถานที่ก่อสร้างห้องสมุด ซึ่งมีเนื้อที่ทั้งหมด 4 ไร่ 1 งาน 80 ตารางวา จัดเป็นห้องสมุดขนาดเล็ก
ห้องสมุดประชาชนอำเภอเวียงสระ เริ่มดำเนินการก่อสร้าง เมื่อวันที่ 21 ธันวาคม 2527 โดยห้างหุ้นส่วนจำกัด คณาทรัพย์ เป็นผู้รับเหมาก่อสร้างในวงเงิน 700,000.- บาท (เจ็ดแสนบาทถ้วน)
การก่อสร้างได้แล้วเสร็จ เมื่อวันที่ 11 กุมภาพันธ์ 2528 ซึ่งขณะนั้นนายอำเภอชื่อ ร.ต.ชัยยุทธ์ กลิ่นพงศ์ ศึกษาธิการอำเภอ ชื่อนายโพธิ์ วิมล
แม้ว่าห้องสมุดจะสร้างเสร็จเรียบร้อยแล้ว แต่ก็ยังไม่สามารถเปิดให้ใช้บริการได้ เพราะยังขาดผู้ดำเนินการ คือ บรรณารักษ์ คงมีแต่นายสุรินทร์ วิชัยดิษฐ์ ซึ่งทำหน้าที่นักการภารโรง
ต่อมาปี 2529 ทางกรมการศึกษานอกโรงเรียนได้ส่งนางสาวจำเรียง บุญเสริมสันติ ซึ่งสอบบรรจุได้ ในตำแหน่งเจ้าหน้าที่ห้องสมุดของอำเภอไชยา แต่ด้วยสาเหตุว่าทางอำเภอไชยามีลูกจ้างประจำ ซึ่งสามารถทำหน้าที่บรรณารักษ์ได้ดีอยู่แล้ว ดังนั้นนางสาวจำเรียง บุญเสริมสันติ จึงมาช่วยราชการ ที่ห้องสมุดประชาชนอำเภอเวียงสระ พิธีเปิดห้องสมุดอย่างเป็นทางการจึงได้ถูกกำหนดขึ้นในวันที่ 3 กรกฎาคม 2529