C’est le bienheureux Père Franciscain, Frédéric Jansoone, le « Bon Père Frédéric », qui est à l’origine du Calvaire de Saint-Élie-de-Caxton. À environ quatre arpents derrière l’église, sur une montagne dont le site se prête admirablement à la prière et à la spiritualité, on y érigea, en 1895, une grande croix. La hauteur de cette croix (en pieds) correspond à l’âge de Notre Seigneur, c’est-à-dire, 33.
En 1886, un chemin de croix fut construit pour permettre aux piétons et même aux voitures de monter facilement sur la montagne. Au niveau de la longueur, le chemin de croix est la réplique exacte de la voie douloureuse de Jérusalem. Les visiteurs peuvent aussi se rendre au jardin de Gethsémani par un grand escalier de 78 marches.
Une neuvaine a lieu à chaque année, clôturée par le Chemin de la croix au Calvaire, ainsi que des messes dominicales à l’extérieur, durant l’été, quand la température le permet.