Родился в Баку (Азербайджан).
Отец, Николай Николаевич Тер-Григорян — преподаватель музыки, пианист.
Мать, чью фамилию взял Анатолий, — Аревик Никитична Эйрамджан — внучка известного армянского писателя Газароса Агаяна.
Двоюродный брат композитора и музыкально-общественного деятеля Эдуарда Хагогортяна. Племянник художника-живописца Мартироса Сарьяна.
Анатолий Эйрамджан учился в музыкальной школе по классу скрипки. С детства писал короткие юмористические рассказы.
В 1961 году окончил Азербайджанский институт нефти и химии.