A Pedra do Elefante fica no Parque Estadual dos Três Picos, que contempla os municípios de Guapimirim, Cachoeiras de Macacu, Nova Friburgo, Teresópolis e Silva Jardim.
O acesso à trilha para a montanha fica a poucos metros do Mirante do Soberbo, ponto turístico de Guapi próximo à divisa com Teresópolis e com a melhor vista do Dedo de Deus.