Алексей Смирнов родился 28 февраля 1920 года в Данилове Ярославской губернии в семье Макара Степановича и Анны Ивановны Смирновых. По национальности — русский. В середине 1920-х годов семья переселилась в Ленинград. Его отец рано ушёл из жизни, а его мать осталась с двумя детьми: кроме него самого был ещё и младший Аркадий. Жили Смирновы в коммунальной квартире по адресу ул. Петра Лаврова, д. 44. Будущий актёр учился в школе №12 Центрального района (ныне школе №163 Центрального района).
Ещё в школе он начал играть в драмкружке. В 1940 году окончил театральную студию при Ленинградском театре музыкальной комедии и был принят в труппу этого же театра. Там он успел сыграть всего лишь одну роль — Чёрного Орла в оперетте «Роз-Мари».