Bu Oliver yn brif fiola gwadd gyda’r Orchestra of the Age of Enlightenment yn Schloss Esterhazy yn Eisenstadt (lle roedd y cyfansoddwr Haydn yn byw ac yn gweithio). Mae wedi perfformio yn y BBC Proms a Gŵyl Caeredin gyda Syr John Eliot Gardiner a’r Orchestre Revolutionnaire et Romantique.
Mae hefyd wedi recordio CDd o ariâu Handel gyda’r Classical Opera a’r tenor Alan Clayton. Perfformiodd a recordiodd Magnificats J S Bach a C P E Bach fel prif fiola’r gerddorfa faroc, Arcangelo.
