เขาถมอรัตน์ (ถมอ อ่านว่า ถะ-หมอ เป็นคำเขมร แปลว่า หิน ส่วนคำว่า รัตน์ แปลว่า แก้ว) ซึ่งเมื่อมองจากแกนกลางเมืองเก่าศรีเทพในอุทยานประวัติศาสตร์ศรีเทพไปทางทิศตะวันตก จะเห็นเขาถมอรัตน์เป็นรูปทรงสามเหลี่ยมที่อยู่ในแกนเดียวกับปรางค์ศรีเทพและปรางค์สองพี่น้องได้อย่างชัดเจน นอกจากนั้น ปรางค์สำคัญในเมืองเก่าศรีเทพทั้ง 2 องค์นี้ ยังหันหน้ามายังทิศตะวันตกซึ่งตรงมายังเขาถมอรัตน์แห่งนี้ เขาถมอรัตน์แห่งนี้จึงน่าจะมีความสัมพันธ์ที่สำคัญกับปรางค์ทั้ง 2 องค์อย่างแน่นอน และด้วยความเป็นเขาลูกโดดไม่มีเขาอื่น ๆ อยู่ใกล้เคียง เขาถมอรัตน์จึงน่าจะเป็นจุดหมายหรือจุดสังเกตที่สำคัญสำหรับนักเดินทางโบราณอีกด้วย