Родился 30 марта (12 апреля) 1912 года в Речице (ныне — Гомельская область, Белоруссия), в еврейской семье. У его отца, лесозаготовителя и бракёра Залмана Давидовича Копеляна (1874—1956), уроженца Екатеринославля, и матери, Маши Мордуховны Копелян (урождённой Френкель, 1878—1954), родом из Речицы, было ещё пять сыновей. Родители заключили брак 3 августа 1899 года в Носовичах Гомельского уезда Могилёвской губернии. Деду по материнской линии, лесопромышленнику и одному из самых состоятельных людей Речицы Мордуху Хацкелевичу Френкелю, принадлежал лесопильный завод, поставлявший древесину для мостов военного ведомства. Один из старших братьев, Исаак Залманович Копелян, стал известным художником, двое погибли на фронте в годы Великой Отечественной войны: Абрам (1902—1945) — под Ленинградом, Евгений (1908—1945) — в Польше.
В 1912—1929 годах жил в Речице на улице Карла Маркса, дом 25. В 1928 году окончил Речицкую трудовую школу. В 1928—1929 годах работал художником при Речицком кинотеатре. В 1929 году приехал в Ленинград и некоторое время работал токарем на заводе «Красный Путиловец», а затем поступил в Институт пролетарского изобразительного искусства (ныне Институт живописи, скульптуры и архитектуры имени И. Е. Репина) на архитектурный факультет, где ранее обучались его два брата.
Во время учёбы участвовал в массовках в спектаклях Большого драматического театра имени М. Горького и, в конце концов, оставив институт, в 1931 году поступил в студию при театре, где его наставником был К. К. Тверской (в то время главный режиссёр БДТ); ещё студийцем сыграл лорда Грея в спектакле К. К. Тверского «Жизнь и смерть короля Ричарда III». По окончании студии в 1935 году был принят в труппу театра, в котором работал до конца жизни. С приходом в 1956 году Г. А. Товстоногова на пост главного режиссёра стал одним из ведущих актёров БДТ.
В годы войны был актёром фронтового Театра народного ополчения (1941—1943).
Одновременно много снимался в кино, исполнил множество ярких характерных ролей в фильмах «Неуловимые мстители», «Интервенция», «Даурия», «Вечный зов», «Соломенная шляпка». Одна из наиболее известных работ — авторский текст в телесериале «Семнадцать мгновений весны». Принимал участие в дубляже иностранных фильмов на киностудии «Ленфильм», также озвучил роль агента (в кадре Н. Волкова-старшего) в фильме «Полосатый рейс». Пробовал себя в режиссуре, поставил несколько спектаклей на Ленинградском телевидении.
Проживал в доме 32 по Садовой улице. С 1962 года до конца своих дней жил в Ленинграде на Бассейной улице в доме 47.
Умер от инфаркта миокарда 6 марта 1975 года в санатории «Мельничный Ручей» под Ленинградом. Похоронен на Литераторских мостках Волковского кладбища.