Родился 25 июня 1937 года в Свердловске (ныне — Екатеринбург) в семье поляка-эмигранта, который в 1933 году приехал в СССР строить новый мир. В 1937 году отца репрессировали. Мать, украинка, происходила из зажиточной семьи столыпинских переселенцев в Сибирь; в период коллективизации дед по материнской линии переехал в Свердловск.
После смерти мужа мать Филозова часто поневоле меняла работу, была и киномехаником. Маленький Альберт пристрастился к кино, когда смотрел фильмы из кинобудки. Он рано увлёкся книгами, благодаря хорошему голосу попал в хор; в переходном возрасте голос пропал, и Альберт перешёл в театральный кружок. Окончив 8 классов (учился он средне), Альберт устроился токарем на Государственный подшипниковый завод № 6, среднее образование завершал в вечерней школе.
В 1955 году вместе с Юрием Гребенщиковым был принят выездной комиссией в Школу-студию МХАТ (курс Виктора Станицына); его однокурсниками стали Ромашин, Лазарев, Лаврова, Покровская, Невинный.
Ещё в студенческом спектакле был замечен начинающими тогда режиссёрами А. Аловым и В. Наумовым, искавшими исполнителя роли романтического героя в фильме «Ветер». Но тогда кинодебют не состоялся. На третьем курсе успешно прошёл пробы к фильму «Зелёный фургон» Одесской киностудии, однако руководство МХАТа строго-настрого запрещало студентам сниматься в кино, поэтому во время подписания договора он сбежал обратно в Москву.
Окончив учёбу в 1959 году, сезон 1959/1960 года отработал в Московском драматическом театре им. К. С. Станиславского у М. М. Яншина, где вводился на роли уже очень популярного тогда Е. П. Леонова. В сезоне 1960/1961 годов служил в театре имени Ермоловой.
В 1961 году был призван в армию, отслужил два года в сапёрном батальоне, командовал военным оркестром в Рязанском училище связи.
В 1963 году вернулся в Московский драматический театр им. К. С. Станиславского (в котором формально числился до 1990 года). В профессию входил трудно, однажды после очередной неудачи на сцене услышал от старшего коллеги по театру в утешение, «что хотя большого художника из него не выйдет, он может пригодиться на вторых, на третьих ролях».
Работал с Борисом Львовым-Анохиным, Александром Товстоноговым, Марией Кнебель, Анатолием Васильевым («Взрослая дочь молодого человека»).
В 1972 году сыграл первую главную роль в кино («Вид на жительство»). Актёр обратил на себя внимание, создав образ на сильнейшем контрасте внутреннего и внешнего, выражаемого прямо противоположными — мягкими, некричащими — пластическими средствами. Став востребованным в кино, постепенно научился отказываться от проходных ролей.
С 1982 года репетировал c Анатолием Васильевым в Театре на Таганке пьесу Виктора Славкина «Серсо», премьера которой состоялась в июле 1985 года.
С 1989 года до конца жизни играл в спектаклях театра «Школа современной пьесы».
В 1991—1995 годах был мастером (совместно с Арменом Джигарханяном) актёрского курса во ВГИКе, преподавал также в РАТИ.
В 2007 году дебютировал как режиссёр, поставив на сцене театра «Школа современной пьесы» совместно с Ольгой Гусилетовой пьесу Ксении Степанычевой «2×2=5».
Последние годы жизни Филозов боролся с онкологическим заболеванием, пережил период ремиссии, затем его состояние снова ухудшилось. Скончался 11 апреля 2016 года. Последние дни артист находился в больнице, а за два дня до смерти был оттуда выписан.
Похоронен 13 апреля на Ваганьковском кладбище (участок № 43).