秦代时划分郡县边界，多以山脉和河流为参照物，芒砀山在秦代为砀郡命名之源，砀是古代芒砀山真正的名称，在鸿沟往东至东海的平原地带，芒砀山是第一座山，芒城之睢河是此处黄河以南第一条最大的河流，成为地理坐标的基础。
司马迁在《史记 货殖列传》中说：“夫自鸿沟以东，芒砀以北，属巨野，此梁宋也。”鸿沟是战国时期开挖的运河，鸿沟并非一条河流，而是多条水系的总称。此处鸿沟应在今开封一带，由开封向东南流去的河流，向南连接颖水。鸿沟以西，属于河洛文明辐射地带。芒砀以北属于巨野，巨野即今山东菏泽一带，秦汉时期因有巨大的野茫茫的湖泊而得名。芒是永城芒城，砀是指永城砀城。芒在南，砀在北，二城南北相距30余里。芒砀以北，实际上是说睢水以北，芒城在睢水岸边，古人划分地界，好以河流为界。睢水在芒，芒以南，汉初属于建成侯，芒城之睢河以北至砀，汉初属于梁国。芒实际上梁国的边界，该处边界是以睢水划分的。司马迁说：“芒砀以北，属巨野，此梁宋也”实际上是按芒砀以南此处梁国边界说的。秦汉芒砀山地理标志地位，造成了汉代以后历代芒砀山的边界文化。春秋战国时代芒砀山是宋国的腹地，是砀县县城所在地。汉代以后芒砀山多居于边界地带，砀县废弃后，芒砀山只能归属周边县域，它的边界文化更突出了，更加强了。芒砀山曾经属于砀山县，也曾经属于永城县，自北宋以后芒砀山属于永城县，一直到今天。自汉代以后，此处周边县城势力的此消彼长，决定了芒砀山的归属，但都没有改变芒砀山的边界地位。
