ต่อมาในปี พ.ศ. 2515 กรมสามัญศึกษา กระทรวงศึกษาธิการได้จัดสรรงบประมาณเพื่อเป็นค่าก่อสร้างห้องสมุดประชาชนประจำจังหวัด ขนาดกลาง 1 หลัง ใช้วงเงิน 280,000 บาท ให้กับจังหวัดสกลนคร และทางจังหวัดจึงได้แต่ตั้งคณะกรรมการขึ้นมาคณะหนึ่ง เพื่อหาสถานที่ที่จะทำการก่อสร้างห้องสมุดประชาชนจังหวัด แต่อธิบดีกรมสามัญศึกษา (นายเกรียง กีรติกร) ได้เดินทางมาเลือกสถานที่ก่อสร้างห้องสมุดฯ ด้วยตนเองจึงได้ตกลงใจเลือกสถานที่ที่อยู่ติดกับสนามมิ่งเมือง เป็นที่ก่อสร้าง (ห้องสมุดหลังเดิม) ซึ่งเป็นที่ราชพัสดุ

ห้องสมุดประชาชนประจำจังหวัดสกลนครสมัยนั้นสังกัดอยู่กับกรมสามัญศึกษา กระทรวงศึกษาธิการ ต่อมาในปี พ.ศ. 2521 ห้องสมุดประชาชนจังหวัดสกลนคร ได้มารวมตัวกับศูนย์การศึกษานอกโรงเรียนจังหวัดสกลนคร สังกัดกองการศึกษาผู้ใหญ่ กระทรวงศึกษาธิการ ต่อมาเมื่อปี พ.ศ. 2522 กระทรวงศึกษาธิการได้ประกาศจัดตั้งกรมการศึกษานอกโรงเรียนขึ้น ห้องสมุดประชาชนจึงได้เปลี่ยนมาสังกัดกองปฏิบัติการ กรมการศึกษานอกโรงเรียน กระทรวงศึกษาธิการจนถึงปัจจุบัน