Nos son conocidos algunos detalles concernientes a la vida de Palemón, gracias, sobre todo, a su ilustre discípulo Pacomio.
Palemón fue uno de los primeros anacoretas de la Tebaida. Vivía retirado en el desierto desde hacía un buen número de años, cuando Pacomio fue a buscarle y a pedirle que le recibiera como discípulo. El viejo ermitaño respondió que la empresa era muy ardua y que muchos no habían podido llevarla a buen fin. Al mismo tiempo, le hizo una descripción de sus austeridades y terminó diciendo: «No vas a poder resistir. Primero vete a trabajar y mortifícate en un monasterio y luego volverás». Sin embargo, Pacomio insistió y Palemón consintió en recibirlo.
Después de muchos años, el discípulo dio parte a su viejo maestro de las empresas de fundación que Dios le inspiraba. Convinieron en no separarse, aunque en realidad, Palemón guardó su soledad y sus austeridades. Por otra parte, no tardó en caer enfermo. Pacomio regresó de Tabena para asistirle y para enterrarle, después de haber visto que los ángeles llevaban su alma al cielo. La muerte de Palemón sucedió probablemente hacia el 330.
Ver la Vida de San Pacomio y el Estudio sobre el cenobitismo pacomiano, vol. I, (1898), de P. Ladauze.