ทหารสารวัตร ถือกำเนิดในรัชสมัยของพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว รัชกาลที่ ๕ โดยในปี พ.ศ.๒๔๔๐ สมเด็จพระเจ้าลูกยาเธอพระองค์เจ้าจิระประวัติวรเดช ทรงสำเร็จวิชาการทหารแผนปัจจุบันจากประเทศในทวีปยุโรปและเสด็จกลับมารับราชการในกระทรวงกลาโหม พระองค์ทรงปรับปรุงกิจการทหาร โดยจัดให้มีการจัดเหล่าทหารต่างๆ ตามแบบอย่างในต่างประเทศ จนสามารถเรียกได้ว่าเป็นกำลังกองทัพบก อีกทั้งยังได้จัดให้มีการฝึกและเปลี่ยนการใช้คำบอกคำสั่งต่างๆ จากภาษาต่างประเทศมาเป็นภาษาไทย มีการกำหนดเครื่องแบบและเครื่องหมายสังกัดเป็นระเบียบโดยแน่ชัด รวมทั้งได้ทรงตราข้อบังคับ ระเบียบ และวินัย ซึ่งทหารจะต้องปฏิบัติตามโดยเคร่งครัด
ด้วยเหตุนี้จึงจำเป็นต้องมีสารวัตรทหาร เพื่อ ตรวจตรา กำกับ ดูแล ระเบียบวินัยของทหารภายนอกบริเวณโรงทหาร แต่ขณะนั้นยังไม่ได้มีการจัดตั้งเหล่าทหารสารวัตรขึ้นอย่างเป็นรูปธรรม คงดำเนินการโดยให้แต่ละหน่วยจัดหมู่ตรวจออกไปผลัดเปลี่ยนกันตรวจตราบริเวณ ตลาด ชุมชน เพื่อดูแลให้เกิดความเรียบร้อย โดยเฉพาะอย่างยิ่งการกวดขันทหารให้อยู่ในระเบียบ วินัย อันดี และได้แต่งตั้งให้ผู้ดำรงตำแหน่งสารวัตรใหญ่ทหารบกเป็นผู้ควบคุม กำกับดูแลการปฏิบัติในเรื่องดังกล่าว เมื่อวันที่ ๒๗ มีนาคม พุทธศักราช ๒๔๕๐ สมเด็จพระเจ้าลูกยาเธอพระองค์เจ้า จิระประวัติวรเดช ซึ่งดำรงตำแหน่งผู้บัญชาการกรมยุทธนาธิการ ได้ออกข้อบังคับ กำหนดหน้าที่สารวัตรใหญ่ทหารบก ขึ้นเป็นครั้งแรก ดังนั้นกองทัพบกจึงอนุมัติให้วันที่ ๒๗ มีนาคมของทุกปี เป็น วันทหารสารวัตรเพื่อเป็นขวัญและกำลังใจแก่ข้าราชการเหล่าทหารสารวัตร ในอันที่จะสร้างเสริมความสามัคคี และเป็นสิริมงคลต่อเหล่าทหารสารวัตรสืบต่อไป
นับตั้งแต่นั้นเป็นต้นมา กิจการสารวัตรทหารได้รับการปรับปรุงมาโดยตลอดจนถึง ปีพุทธศักราช ๒๔๖๗ ได้กำหนดให้ทุกมณฑลทหารบกจัดให้มี สารวัตรทหารขึ้น โดยมีหน้าที่ตรวจตราภายในท้องที่ของแต่ละมณฑล ซึ่งสารวัตรทหารเหล่านั้นประดับ ปลอกแขนสีแดงที่แขนข้างขวา และมีจักรสีทองขนาดย่อมติดทับปลอกแขน จึงเป็นเหตุให้ได้รับสมญานามว่าพวกทหารแขนแดง ซึ่งต่อมาได้พัฒนาเป็นปลอกแขนสีแดงและมีอักษรคำว่า “สห” สีขาว ติดอยู่ดังเช่นทุกวันนี้ ต่อมา ในปี พ.ศ. ๒๔๘๔ ได้เกิดสงครามมหาเอเชียบูรพา หรือสงครามโลกครั้งที่ ๒ ขึ้น จึงได้มีการจัดหน่วยสารวัตรผสมขึ้น โดยมีทหารบก ทหารเรือ ทหารอากาศ และตำรวจ เพื่อระงับเหตุการณ์ทั่วไปในเขตจังหวัดพระนครและธนบุรีให้เกิดความสงบเรียบร้อย ซึ่งการจัดหน่วยสารวัตรผสมดังกล่าว นับได้ว่าเป็นจุดกำเนิดของสารวัตรทหาร ปัจจุบันกรมการสารวัตรทหารบก ได้ดำเนินการพัฒนาเหล่าทหารสารวัตรให้มีความเจริญก้าวหน้ายิ่งขึ้นโดย ได้มีการจัดตั้งหน่วยทหารสารวัตรระดับ กองพัน ให้กับทุกกองทัพภาคของกองทัพบกเรียบร้อยแล้ว และได้พัฒนาระบบ การเรียน การสอน และการฝึก ของเหล่าทหารสารวัตรให้มีมาตรฐาน และมีความทันสมัยเหมาะสมกับสถานการณ์ในปัจจุบันที่มี การใช้เจ้าหน้าที่สารวัตรทหารในทุกภารกิจสำคัญของกองทัพ
เครื่องหมายราชการของกรมการสารวัตรทหารบก กองทัพบก กระทรวงกลาโหม
ประกาศสำนักนายกรัฐมนตรี เรื่อง กำหนดภาพเครื่องหมายราชการ ตามพระราชบัญญัติเครื่องหมายราชการ พุทธศักราช ๒๔๘๒ (ฉบับที่ ๕๘)
(ราชกิจจานุเบกษา เล่มที่ ๘๗ ตอนที่ ๗๗ ประกาศ ณ วันที่ ๑๘ สิงหาคม ๒๕๑๓)
---- เครื่องหมายราชการของกรมการสารวัตรทหารบก กองทัพบก กระทรวงกลาโหม ----
เป็น รูป "ท้าวกุเวร" หรือ "ท้าวเวสสุวัณ" ประทับบนแท่น บรรจุอยู่ในวงกลม หัตถ์ขวาถือกระบอง หัตถ์ซ้ายในท่าอภัย ด้านข้างประกอบด้วยลายกนก เบื้องบนมีชื่อ "กรมการสารวัตรทหารบก" เบื้องล่างมีตัวอักษรภาษาอังกฤษว่า "THE PROVOST MARSHAL GENERAL DEPARTMENT" มีความหมายถึง ผู้รักษาความปลอดภัยและทรงไว้ซึ่งความยุติธรรม
(ไม่จำกัดสีและขนาด)