À l'époque de l'empereur Auguste, la zone où se dresse aujourd'hui la basilique était périphérique et résidentielle. En effet, une résidence impériale y fut construite au IIIème siècle.
Lorsque Constantin transféra la capitale à Constantinople, le domaine resta la propriété de sa mère Hélène qui décida de transformer une partie de la demeure en chapelle pour la conservation des reliques de la Croix, retrouvées par la souveraine elle-même sur le mont Calvaire lors de son pèlerinage en Terre Sainte en 325. C’est autour de cette chapelle que fut par la suite édifiée la basilique actuelle.
Nombreux furent les travaux de restauration et de modifications au cours des siècles : parmi ceux-ci, il convient de souligner en particulier ceux effectués par le cardinal Mendoza (1478-1495), au cours desquels fut retrouvée une boîte mortuaire dans l'arc de l'abside de l'église avec à l'intérieur le Titiulus Crucis.
La basilique a donc été conçue dès le départ comme un grand reliquaire, existant pour protéger et conserver les précieux témoignages de la passion de Jésus. Elle sera en effet appelée "à Jérusalem" précisément parce qu'à l'intérieur, entre autres, se trouve la terre consacrée du Mont Calvaire mise comme base des fondations.
