Na época do imperador Augusto, a área onde hoje se encontra a basílica era de natureza periférica e residencial. Na verdade, uma residência imperial foi construída aqui no século III.
Quando Constantino mudou a capital para Constantinopla, a área permaneceu propriedade de sua mãe Elena, que decidiu transformar parte da residência em uma capela para a conservação das relíquias da Cruz, encontradas pela própria soberana no Monte Calvário durante sua peregrinação a a Terra Santa em 325. A atual basílica foi então construída em torno da capela.
Foram várias as obras de restauração e modificações ao longo dos séculos: entre estas, em particular, lembramos as realizadas pelo cardeal Mendoza (1478-1495), durante as quais uma caixa mortuária foi encontrada no arco absidal da igreja com o Titulus Crucis no interior.
A basílica foi, portanto, concebida desde o início como um grande relicário, existindo para proteger e preservar os preciosos testemunhos da paixão de Jesus. De fato, será chamada "em Jerusalém" precisamente porque dentro, entre outras coisas, há terra consagrada da Monte Calvario colocado na base das fundações.
