元久の頃（1205年頃）、時の将軍源頼朝の寵愛を受けていた丹後局は、将軍の死後身の危険をさけるため、その兄・比企能員（ひきよしかず）の依頼を受けた越生越前守広斉に伴われて鹿児島の坊之津に下り、その後八代を経てこの地に落ちのびて来たといわれ、広斉は東山（現在の烏岳）に東山城を築いてこの地方を治め、またこの小椎尾神社（こじおじんじゃ）も勧請※されたと伝えられています。その後、寛分3年（1663年）3月の大洪水で社殿流出、同5年歴木山に遷宮※され現在に至っています。

神社内に奉納されている敷板（小椎尾神社旧神像敷板）には、康正2年東山城主 越生越前守広斉の名があります。また、敷板と合わせて、農耕絵馬も市の有形民俗文化財に指定されています。

※勧請（かんじょう）･･･分霊を他の神社に移して鎮祭すること。

※遷宮（せんぐう）･･･神社の本殿の造営または修理の際に、神体を従前とは異なる本殿に移すこと。