Родился 30 марта (12 апреля) 1912 года в Речице в еврейской семье. У его отца, мелитопольского купца второй гильдии (ранее екатеринославского мещанина), лесозаготовителя и бракёра Залмана Давидовича Копеляна (1874—1956) и матери, Маси (Маши) Мордуховны Копелян (урождённой Френкель, 1878—1954), родом из Речицы, было ещё пятеро сыновей (двое старших родились в Екатеринославе, двое средних в Мелитополе и двое младших в Речице). Родители заключили брак 3 августа 1899 года в Носовичах Гомельского уезда Могилёвской губернии. Деду по материнской линии, лесопромышленнику и одному из самых состоятельных людей Речицы Мордуху Хацкелевичу Френкелю, принадлежал лесопильный завод, поставлявший древесину для мостов военного ведомства. Один из старших братьев, Исаак Залманович Копелян (9 сентября 1909, Акимовка — 4 января 2001), стал известным художником, двое погибли на фронте в годы Великой Отечественной войны: Абрам (28 июня 1902, Екатеринослав — 1945) — под Ленинградом, Евгений (9 января 1908, Мелитополь — 1945) — в Польше. Также были братья Моисей (13 мая 1900, Екатеринослав — 1984) и Григорий (1914—1936).
В 1912—1929 годах жил в Речице на улице Карла Маркса, дом 25. В 1928 году окончил Речицкую трудовую школу. В 1928—1929 годах работал художником при Речицком кинотеатре. В 1929 году приехал в Ленинград и некоторое время работал токарем на заводе «Красный Путиловец», а затем поступил в Институт пролетарского изобразительного искусства (ныне Институт живописи, скульптуры и архитектуры имени И. Е. Репина) на архитектурный факультет, где ранее обучались его два брата.
Во время учёбы участвовал в массовках в спектаклях Большого драматического театра имени М. Горького и, в конце концов, оставив институт, в 1931 году поступил в студию при театре, где его наставником был К. К. Тверской (в то время главный режиссёр БДТ); ещё студийцем сыграл лорда Грея в спектакле К. К. Тверского «Жизнь и смерть короля Ричарда III». По окончании студии в 1935 году был принят в труппу театра, в котором работал до конца жизни. С приходом в 1956 году Г. А. Товстоногова на пост главного режиссёра стал одним из ведущих актёров БДТ.
В годы войны был актёром фронтового Театра народного ополчения (1941—1943).
Одновременно много снимался в кино, исполнил множество ярких характерных ролей в фильмах «Неуловимые мстители», «Интервенция», «Даурия», «Вечный зов», «Соломенная шляпка». Одна из наиболее известных работ — авторский текст, произносимый за кадром, в телесериале «Семнадцать мгновений весны» (за эту работу актёр даже получил от коллег шуточное прозвище Ефим Закадрович). Принимал участие в дубляже иностранных фильмов на киностудии «Ленфильм», также озвучил роль агента (в кадре Н. Волкова-старшего) в фильме «Полосатый рейс». Пробовал себя в режиссуре, поставил несколько спектаклей на Ленинградском телевидении.
Проживал в доме № 32 по Садовой улице. С 1962 года до конца своих дней жил в Ленинграде на Бассейной улице в доме 47.
Скоропостижно скончался от инфаркта миокарда 6 марта 1975 года в санаторном отделении «Мельничный Ручей» больницы им. Я. М. Свердлова под Ленинградом. Похоронен на Литераторских мостках Волковского кладбища. Памятник в виде гранитной плиты с барельефом театральной маски установлен в 1980 году. Скульптор С. С. Платонова, архитектор В. А. Петров.
