Олег Табаков родился 17 августа 1935 года в Саратове в семье врачей — Павла Кондратьевича Табакова и Марии Андреевны Березовской.
Раннее детство провёл с родителями и бабушками. Во время Великой Отечественной войны отец ушёл на фронт, возглавив военно-санитарный поезд № 87, мать работала в военном госпитале на станции Эльтон Рязано-Уральской железной дороги. После войны родители расстались.
Учился в мужской средней школе № 18 Саратова. Решающее влияние на выбор профессии оказали занятия в 1950—1953 годах в театральном кружке «Молодая гвардия» Саратовского Дворца пионеров и школьников, руководимом педагогом театрального мастерства Натальей Сухостав, ставшей «крёстной матерью» для 160 актёров.
Табаков поддерживал связь со своей малой родиной всю свою жизнь. В 2003 году был удостоен звания Почётного гражданина города Саратова. С 2004 по 2016 год являлся президентом международного фестиваля документальной мелодрамы «Саратовские страдания». В августе 2015 года в Саратове открыт прижизненный памятник актёру. Композиция изображает двух персонажей — юношу Олега Савина из фильма «Шумный день» (одна из самых первых его киноролей) и мультяшного кота Матроскина, которого он озвучивал.