Fin dal primo momento in cui compare in ogni civiltà, l'ulivo viene sentito quale sacro simbolo di pace, fecondità, purificazione, vittoria; simbolo che si ripete, con significativa continuità, in tutte le culture del Mediterraneo.
Nella mitologia greca, l'ulivo nasce come patto di pace dopo la contesa tra Atena e Poseidone; e si vuole che le piante che oggi vegetano sull'Acropoli derivino appunto da quella pianta primigenia, venerata nell'Eretteo.
Un albero d'ulivo verdeggiava in Atene dentro il tempio di Minerva e le sue fronde rappresentavano un premio ambitissimo: Milziade, il vincitore di Maratona, appunto chiese come unica ricompensa per la strepitosa vittoria uno di quei rami.
L'ulivo è pianta sacra alla fecondità.
Riferisce Erodoto che quando gli Dei, per vendicare l'oltraggio fatto a Dania ed Augeria, ridussero gli abitanti di Epidauro alla sterilità, questi, su consiglio degli oracoli, fecero arrivare appositamente da Atene tronchi d'ulivo con cui innalzarono statue alle due vergini; gli ateniesi consentirono il prelevamento del legno sacro, fonte di fertilità, a condizione che ogni anno venissero da Epidauro ad Atene delegati per celebrare sacrifici a Minerva, dea dell'ulivo. E bene auspicante al talamo coniugale, proprio di ulivo è anche il letto di Ulisse.
Simbolo di pace, la fronda d'ulivo cinge con un serto il capo della dea della pace Irene, che tiene in mano un ramoscello della stessa pianta.
Simbolo di vittoria, premia nei Giochi Olimpici il vincitore con una corona di fronde, tagliate da un fanciullo con un falcetto d'oro per preservarne le virtù.
Simbolo di protezione, difende Ercole disceso negli Inferi cingendogli il capo; e fu appunto il sudore dell'eroe a rendere più chiara la pagina inferiore delle foglie, mentre i fumi dell'Ade ne scurivano quella superiore. A simboleggiarne la potenza, ancora di legno d'ulivo è la sua clava.
Nell'Islam l'ulivo è addirittura l'asse del mondo ed è perfino immagine simbolica del Profeta; la tradizione popolare islamica dice che su ogni sua foglia sta scritto uno dei nomi di Dio.
Per i cristiani la leggenda della croce vuole che sulla tomba di Adamo sia nato un albero d'ulivo da cui, come si legge nella Genesi, staccò un ramoscello la colomba che tornò all'arca di Noè, ramoscello che costituisce il simbolo della pace fra Dio e le sue creature.
Ed ancora dallo stesso ulivo fu ricavata la croce del Redentore.