ปี พ.ศ.2396 รัชสมัยรัชกาลที่ 4 พระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัวฯ พระองค์ได้ทรงมีพระราชดำริเห็นว่า ราษฎรไทยในพื้นที่จังหวัดเลยเดิมมีจำนวนเพิ่มมากขึ้น น่าที่จะสร้างเมืองใหม่ขึ้นจึงรับสั่งให้พระยาไทนามไปสำรวจพื้นที่ ซึ่งได้บริเวณหมู่บ้านแฮ่ซึ่งตั้งอยู่ริมฝั่งห้วยน้ำหมาน และอยู่ใกล้กับแม่น้ำเลยเป็นพื้นที่เหมาะสมที่สุดในการสร้างเมือง พระยาไทนามจึงถวายรายงานแนะนำพื้นที่บ้านแฮ่ต่อรัชกาลที่ 4 ในการสร้างเมืองเลยขึ้นได้มีประกาศใช้พระราชบัญญัติลักษณะปกครองพื้นที่ ในปี พ.ศ. 2440 โดยปรับปรุงโครงสร้างการบริหารในประเทศไทยทั่วประเทศแบ่งเป็นจังหวัดเขต (อำเภอ), มณฑล (ตำบล) และ บ้าน(หมู่บ้าน) ในวันที่ 4 มกราคม พ.ศ. 2450 อำเภอกุดป่อง ซึ่งเป็นอำเภอก่อตั้งพื้นที่ปกครองในภาคพื้นที่นั้นให้เปลี่ยนเป็นเมืองเลย (จังหวัดเลย) และเปลี่ยนชื่อพื้นที่ "บริเวณลำน้ำเลย" เป็น "บริเวณลำน้ำเหือง" และต่อมายกเลิกบริเวณลำน้ำเหืองให้คงเหลือไว้เฉพาะ "เมืองเลย" จนถึงปัจจุบัน