Mendelssohn va viatjar a Anglaterra per primera vegada per invitació d’un Senyor alemany, amb motiu del seu vintè aniversari. Després del seu viatge per Anglaterra, el compositor va passar a Escòcia, on va compondre la seva Simfonia nº 3 o Simfonia Escocesa. Durant aquests viatges pel país, va visitar les Hèbrides i en particular l’illa de Staffa, on va descobrir la Gruta de Fingal, ja llavors un atractiu turístic. En aquella època la cova tenia aproximadament 11 metres d’alçada i 60 de profunditat, i contenia acolorits pilars de basalt. Immediatament va començar a escriure el que després es convertiria en el tema inicial de l’obra, i se la va enviar a la seva germana, Fanny Mendelssohn, en una carta en què afirmava: “Per aconseguir que comprenguis fins a quin punt m’han afectat les Hèbrides, t’envia el següent, que vinc al meu cap allà”.

Segons la llegenda, la gruta és el lloc del que un cop va ser el castell reial de Fion na Gael (en anglès “Fingal”), governant del regne de Morven i pare del cèlebre guerrer i bard del segle III conegut com a Ossian. Tot rastre de l’estructura del suposat castell ha desaparegut i el seu pis ha estat cobert pel mar.