自瘋蔣破壞山神地理後，旗尾山一直沒動靜。在日治時代，旗山建了糖廠後，準備從旗尾山山尾，開個山穴，可通鐵道。在開山穴這段時間中，山神卻是大顯神通，使日本人原本挖好的穴，在隔天即恢復原狀。一天，有個人跑去找日本人，告訴他們，工程之所以無法進行，是因為山神搗亂，而他有一套可以制伏山神的方法，找了個黃道吉日，設壇要制伏山神。他請了位法師，用黑狗血向山潑去，並將一根竹子倒插土中。如此，旗尾山神便被破了。在被破的前幾天，山神做了最後的掙扎，從山下不斷向旗尾庄丟石頭。據居民說，他們甚至聽到山神在山上嚎哭了好幾天。居民心生不忍，便向日本人求情，要他們把這件事做個善後處理。於是日本人便在山頭上打了個石碑，上寫到：「旗尾山神碑」。這就是石碑的由來。