张公洞最早见于记载大概在春秋战国时代（公元前722年——公元前481年），当时名庚桑洞，因庚桑楚大夫不愿接受陈君让位南来隐居在此修道，因而得名庚桑洞。后来，汉代张道陵（即除魔降妖的张道陵）和唐代的张果老（八仙中倒骑毛驴的老人）相继在此洞修练，因而又名张公洞。