พระธาตุขามแก่นมีประวัติความเป็นมาเป็นเรื่องเล่าสืบขานกันมาช้านาน ว่ามีกษัตริย์แห่งโมริยวงศ์ได้ทรงทราบข่าวการสร้างเจดีย์ที่เมืองนครพนม ซึ่งพระอรหันต์ พระเถระ และชาวเมืองนครพนม พร้อมด้วยพระอรหันต์ 9 องค์ ในระหว่างเดินทางได้พากันค้างคืน ณ สถานที่แห่งหนึ่งซึ่งมีตอมะขามใหญ่ตายซากตอหนึ่งผุเหลือแต่แก่น และได้อันเชิญพระอังคารธาตุวางไว้ที่บนตามะขามผุนั้น เมื่อรุ่งเช้าจึงออกเดินทางต่อไปยังเมืองนครพนม ครั้นเมื่อถึงเมืองนครพนมกลับปรากฏว่าพระธาตุได้เสร็จสมบูรณ์และได้บรรลุพระบรมสารีริกธาตุไว้ในองค์พระธาตุเรียบร้อย จะนำสิ่งใดบรรจุภายในมิได้อีกแล้ว ดังนั้นโมริกษัตริย์และคณะจึงได้ออกเดินทางกลับตามเส้นทางเดิมด้วยความผิดหวัง เมื่อเดินผ่านตอมะขามใหญ่ซึ่งเคยพักค้างแรมต่างก็ประหลาดใจเมื่อปรากฏว่าตอมะขามผุนั้นได้เจริญงอกงามตอเขียวขจี โมริกษัตริย์เห็นเป็นอัศจรรย์ในบุญญาธิการแห่งพระอังคารธาตุประดิษฐานไว้ในองค์พระธาตุนั้น และได้บรรจุพระธรรมคำสอนของพระพุทธเจ้าไว้ 9 บท ไว้ในเจดีย์องค์เล็กทางด้านทิศตะวันตกของพระธาตุ เรียกว่า "พระเจ้าเก้าองค์”
ต่อมาบริเวณนั้นได้มีชาวบ้านมาอยู่อาศัยมากขึ้นกลายเป็นหมู่บ้านมีชื่อว่า "บ้านขาม” ตามชื่อตอมะขามอัเเป็นที่ประดิษฐานพระอังคารธาตุ ต่อมาได้ย้ายเมืองต่อ ๆ มาหลายแห่ง จนลุมาพ.ศ.2340 ในรัชสมัยสมเด็จพระ-พุทธยอดฟ้าจุฬาโลกมหาราช รัชกาลที่ 1 เพี้ยเมืองแพน พระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกมหาราชจึงได้โปรดเกล้าฯ ให้ตั้งเจ้าเมืองแพน ยกบ้านบึงบอนเป็น "เมืองขอนแก่น” จึงนับเอา ปี พ .ศ. 2340 เป็นปีแห่งการตั้งเมืองขอนก่น