Een jonge jongen genaamd Link groeide op in het dorp van de elfachtige Kokiri-mensen. Op een dag stelt een fee genaamd Navi hem voor aan de bewaker van het dorp, de Grote Deku-boom. Het lijkt erop dat een mysterieuze man de boom heeft vervloekt en Link wordt naar het kasteel van Hyrule gestuurd om meer te weten te komen. Prinses Zelda vertelt Link dat Ganondorf, de leider van de Gerudo-stam, de Triforce wil bemachtigen, een heilig relikwie dat immense kracht verleent aan degene die het bezit. Link moet alles in zijn macht doen om de Triforce te bemachtigen voordat Ganondorf dat doet en Hyrule te redden.
Ocarina of Time is het eerste 3D-deel van de Legend of Zelda-serie. Zoals de meeste voorgangers is het een actiespel met puzzel- en lichte rollenspelelementen. De gameplay is vergelijkbaar met de vorige games, waardoor Link de wereld kan verkennen en kerkers kan voltooien om belangrijke items te verkrijgen en het plot te bevorderen. Zwaardgevechten en veel bekende items zoals boemerang, bommen, de valuta van de serie (roepies) van verschillende waarden, hartcontainers en hun verzamelbare fragmenten die Link’s gezondheid permanent verhogen, keren terug in deze aflevering. Link kan nu vijanden vastzetten voor melee- en afstandsgevechten, actief een schild gebruiken om projectielen af te weren en verschillende magische items gebruiken. Dungeon-verkenning is iets meer puzzelgericht dan in eerdere games. Link kan bepaalde oppervlakken beklimmen, onder water duiken en automatisch springen.
De game begint met de speler die de kinder-Link bestuurt, maar later wordt een volwassen Link ook een speelbaar personage. Elk van hen heeft bepaalde unieke vaardigheden: bijvoorbeeld kan alleen de volwassen Link een boog en pijlen gebruiken, maar alleen de kinder-Link kan door nauwe ruimtes kruipen. Tijdens het spel verkrijgt de speler de Ocarina of Time. Het leren en spelen van melodieën op die ocarina is nodig om het plot te laten vorderen, bepaalde zijmissies te voltooien of door de tijd te reizen, waarbij wordt gewisseld tussen de twee versies van Link. Je kunt ook bevriend raken met een paard genaamd Epona en erop rijden, zodat je makkelijker tussen gebieden kunt reizen.