山形山神成立于1984年，前身是NEC山形足球部。根据地在山形县山形市、天童市及鹤冈市以及县内所有区域。主场是山形县综合运动公园，以前曾使用山形市陆上竞技场及鹤冈市小真木原陆上竞技场作为主场，现今为球队的练习场。1994从东北联赛升级到JFL，1996年球队改名为山形山神。1999年设立日职联乙级，成为了J2第一个球季的球队之一。2008赛季，球队以日乙联赛亚军的身份升入日本职业联赛，在连续经历两个赛季保级后，山形终于2011赛季降入J2联赛。在J2卧薪尝胆三个赛季后，球队又于2014赛季最后时刻获得联赛第六，且在升级附加赛中依靠门将的补时头球绝杀晋级并最终重返J1联赛。