Родился 17 ноября (по старому стилю) 1906 года в рабочем районе Одессы в творческой семье писателя Лазаря Осиповича Кармена и Дины Львовны Лейпунер (1885—1938), переводчицы художественной прозы с идиша. В сохранившейся записи в «Метрической книге о родившихся евреях» в канцелярии городского раввина Одессы от 24 ноября 1906 года указывается: «17 ноября родился, 24 обрезан сын Эфраим. Родители: теофипольский мещанин Лейзор Иось-Берович Коренман, жена Дына».
После рождения сына семья переехала в Петербург. Его отец был приглашён в столицу сотрудничать в литературных журналах. Семья проживала в Куоккала, что под Петроградом, где в то время образовалась настоящая литературная колония. Отец общался со многими писателями, дружил с А. И. Куприным, был знаком с Максимом Горьким. Именно отец подарил Роману его первый фотоаппарат — «Кодак». После Октябрьской революции отец вернулся в Одессу, где посвятил себя пропагандистской работе в большевистской печати, в Политуправлении Красной армии. После захвата Одессы белогвардейскими войсками ему пришлось вместо работы в газете продавать её на улицах, отсидеть в тюрьме, откуда он вышел с обострившимся туберкулёзом, уже фактически обречённый. Весной 1920 года Лазарь Кармен умер. Позже Роман Кармен вспоминал:
Как жалею, что не сберёг подаренный мне отцом дешёвый фотографический аппарат — коробочка „кодак“, сыгравший, как сейчас вижу, решающую роль в моей жизни. Сохранился только пожелтевший крохотный снимок — я сфотографировал отца незадолго до его смерти. Первый мой фотографический снимок!
