Si racconta che la chiesetta fu costruita dopo il ritrovamento nel tronco cavo di un albero di castagno di un quadro raffigurante la Madonna con Gesù deposto dalla Croce.

Il quadro fu subito portato nella chiesa matrice di Santa Barbara, ma il giorno dopo del dipinto non si trovò neanche l’ombra. I rovitesi lo ritrovarono dove era apparso il giorno prima e lo riportarono nella chiesa matrice, ma avvenne la stessa cosa, che si ripetè ancora per diversi giorni. I rovitesi gridarono al miracolo e costruirono lì una chiesetta o, più probabilmente, un’edicola votiva dedicata alla Madonna della Pietà. C’è un’altra leggenda che riguarda questo luogo di culto.

Pare che un vescovo di Santa Severina (o di Cariati), mentre si stava recando a Cosenza per curare una grave malattia agli occhi, fu improvvisamente sorpreso da un tremendo temporale che mise a repentaglio la sua vita. L’alto prelato, terrorizzato e disperato, implorò la Pietà di Maria SS. e fece voto, promettendo alla Vergine che, se ne fosse uscito vivo, avrebbe fatto ampliare il fabbricato alle attuali dimensioni. Il temporale cessò all’improvviso e l’uomo guarì anche dal male che lo affliggeva. Inutile dire che il Vescovo mantenne la promessa fatta alla Madonna.

Sulla chiesa “della Pietà” si racconta, infine, un ultimo episodio che accadde sul finire del XVIII secolo, quando la chiesetta fu seriamente danneggiata da un incendio provocato involontariamente da un eremita che viveva lì da qualche tempo. Spentesi le fiamme, guardando da lontano, si poteva vedere sul lato destro della chiesa, sul tronco cavo di un vecchio castagno, l’immagine impressa o intagliata nel legno della Vergine Maria con il Figlio morto in grembo.

Fino a qualche decennio fa fu meta di pellegrini che, durante il novenario che si tiene ogni anno nei giorni precedenti la seconda domenica di settembre, salivano a piedi, anche scalzi, per raggiungere il Santuario.