Родился 30 марта (12 апреля) 1912 года в Речице (ныне — Гомельская область, Белоруссия), в еврейской семье. У его отца, лесозаготовителя и бракёра Залмана Давидовича Копеляна (1874—1956), и матери, Маши Мордуховны Копелян (урождённой Френкель, 1878—1954), было ещё пять сыновей. Деду по материнской линии, лесопромышленнику и одному из самых состоятельных людей города Мордуху Хацкелевичу Френкелю, принадлежал лесопильный завод, поставлявший древесину для мостов военного ведомства. Один из старших братьев, Исаак, стал известным художником, двое погибли на фронте в годы Великой Отечественной войны: Абрам (1902—1945) — под Ленинградом, Евгений (1908—1945) — в Польше.
С 1912 по 1929 год жил в Речице на улице Карла Маркса, дом 25. В 1928 году окончил Речицкую трудовую школу. В 1928—1929 годах работал художником при Речицком кинотеатре. В 1929 году приехал в Ленинград (ныне Санкт-Петербург) и некоторое время работал токарем на заводе «Красный Путиловец», а затем поступил в Институт пролетарского изобразительного искусства (ныне Институт живописи, скульптуры и архитектуры имени И. Е. Репина) на архитектурный факультет, где ранее обучались его два брата.
Во время учёбы участвовал в массовках в спектаклях Большого драматического театра и, в конце концов, оставив институт, в 1931 году поступил в студию при театре, где его наставником был К. К. Тверской (в то время главный режиссёр БДТ); ещё студийцем сыграл лорда Грея в спектакле К. К. Тверского «Жизнь и смерть короля Ричарда III». По окончании студии в 1935 году был принят в труппу театра, в котором работал до конца жизни. С приходом в 1956 году Г. А. Товстоногова на пост главного режиссёра стал одним из ведущих актёров БДТ.
В годы войны был актёром фронтового Театра народного ополчения (1941—1943).
Одновременно много снимался в кино, исполнил множество ярких характерных ролей в фильмах «Неуловимые мстители», «Интервенция», «Даурия», «Вечный зов», «Соломенная шляпка». Одна из наиболее известных работ — авторский текст в телесериале «Семнадцать мгновений весны». Принимал участие в дубляже иностранных фильмов на киностудии «Ленфильм», также озвучил роль агента (в кадре Н. Волкова-старшего) в фильме «Полосатый рейс».
Одновременно много работал на телевидении. Пробовал себя в режиссуре, поставил несколько спектаклей на Ленинградском телевидении.
Проживал в доме 32 по Садовой улице.
С 1962 до конца своих дней жил в Ленинграде на Бассейной улице в доме 47.
Умер от инфаркта 6 марта 1975 года на 63-м году жизни, в санатории «Мельничный Ручей» под Ленинградом. Похоронен на Литераторских мостках Волковского кладбища.
