Ole Ernst (Pedersen) blev født på Vesterbro i København som søn af kok Ernst Pedersen (død 2004) og hustru Edith Frost (død 1978). Han havde forskellige småjobs og var bl.a. sømand i to år inden han efter at have læst hos Lars Lunøe blev uddannet på Skuespillerskolen ved Odense Teater 1964-1967 og debuterede den 13. maj 1965 som Chino i "West Side Story". Efter nogle års ansættelse på Odense Teater fik han sit gennembrud i 1969 som Arnold i "Alting og et posthus" på Svalegangen i Århus og året efter som Biff i "En sælgers død" på Det Danske Teater. Han blev fast ansat ved Det Kongelige Teater i 1970 og udviklede sig op gennem 1970erne som karakterskuespiller. Ole Ernst var ansat ved Det Kongelige Teater frem til 1986 og igen fra 1994. I den mellemliggende periode optrådte han ved modeshows, var turistfører på De Vestindiske øer, ligesom han medvirkede i cabaret. Gennem tiden spillede han i mange teaterforestillinger bl.a. i "Figaros bryllup", "Erik IV", "Hamlet", "Amadeus", "Den dobbelte troløshed", "Frøken Julie", "Jeppe på bjerget", "Erasmus Montanus", "Gengangere", "Isbrandt", "Blæs på Odysseus", "Menneskereden", "Civilisation", "En spurv i tranedans", "Antonius og Cleopatra" og "Peer Gynt". Ole Ernst fik sit filmgennembrud i "Flugten" fra 1973 - den første af tre film om Vesterbro-roden Per. Både filmen og Ole Ernst fik en Bodil-pris. Senere fulgte "Per" og "Blind makker". I løbet af sin karriere medvirkede Ole Ernst i danske og norske film bl.a. i rollen som Peter von Scholten i filmen af samme navn, som hustyrannen i "Sort høst", som politiassistenten i ternet jakke og blød hat i "Olsen-banden"-filmene og i film som "Hærværk", "Det er nat med fru Knudsen" og "Der er et yndigt land", som gav ham endnu en Bodil-pris. Desuden medvirkede han i både danske og svenske TV-produktioner bl.a. "Bryggeren". Han havde også opgaver i reklamefilm for salg af naturmedicin, ligesom han i "Fangerne på fortet" på TV3 var vismanden i tårnet der uddelte gåder til deltagerne. I januar 1978 udeblev han uden afbud fra optagelsen af TV-spillet "Tribadernes nat", og måtte af den grund imødese et erstatningskrav på knapt 300.000 kr. Udover sin skuespillergerning skrev han digte, malede og udstillede sine malerier, f.eks. på Café Cobra. Ole Ernst modtog flere priser, bl.a.: Poul Reumerts Studielegat 1983, Olaf Poulsens Mindelegat 1985, Teaterpokalen samme år, og i 1996 Best of Actor ved TV-Festival i Shanghai og Sølvnymfen i Monte Carlo for tv-filmen "En fri mand". Han levede først i 1970erne sammen med skuespillerinden Anne-Lise Gabold og siden i fire måneder med fotomodellen Mette Thelin inden han i ni år var gift med indendørsarkitekt Susse Karlsen, Fra 1986 til 2005 levede Ole Ernst sammen med tandlæge Vibeke Qvist, hvoraf de ni år som ægtepar. De giftede sig på hendes 40-års fødselsdag den 25. maj 1996. Ole Ernst var senere kæreste med ejendomsmægler Inge Storm Pedersen. Hans moster var bakkesangerinden Rut Lund og hans fætter Dyrehavsbakkens Pjerrot Erico Lund.