Владимир Рубин родился 5 августа 1924 года в Москве в семье врача Ильи Осиповича Рубина и зубного врача Розы Моисеевны Гельцер, дочери купца 1-й гильдии. Семья жила на Тверском бульваре, дом 15, кв. 4 (позже кв. 11).
В детстве занимался под руководством известного музыканта-теоретика В. А. Вахромеева; позже занимался у пианистки, ученицы А. Б. Гольденвейзера, Виктории Павловны Попандопуло, которая привела талантливого ученика к своему учителю. Был принят в Особую группу для одаренных детей (позже ЦМШ) в класс А. Б. Гольденвейзера, также занимался композицией в классе Ю. С. Бирюкова. В 1941 ушёл на фронт, где заболевает туберкулёзом брюшины. Чудом выживает. По выписки из госпиталя отправляется навестить свою мать, по пути попадая в Ташкент, где встречается с А. Б. Гольденвезером, который советует один год, для восстановления, поучиться в училище.
В консерватории познакомился с Е. И. Месснером, Е. К. Голубевым, Р. С. Буниным. Соучениками были — Б. Чайковский, Г. Галынин, К. Хачатурян, А. Холминов, А. Г. Чугаев. В 1949 году окончил МГК имени П. И. Чайковского. Его педагогами были Александр Гольденвейзер (фортепиано), Павел Ламм, Александр Гедике, Мария Неменова-Лунц (концертмейстерский класс), Николай Пейко (композиция). В течение жизни находился в дружеских отношениях со многими выдающимися личностями: с писателями и поэтами — В. Некрасовым, В. Чиндряковым, М. Зощенко, Ю. Олешей и др.; с композиторами — Е. Голубевым, Н. Пейко, Р. Буниным, П. Ламмом и др. Сотрудничал, среди прочих исполнителей, с Леонидом Екимовым.
Умер в 2019 году. Урна с прахом захоронена на Новодевичьем кладбище.
