Карлос Марин родился 13 октября 1968 в Гессене, ФРГ, однако до 12 лет проживал вместе с семьёй в Нидерландах. Певческая карьера Карлоса началась, когда ему было всего 8 лет — свет увидел его первый сольный альбом «Маленький Карузо» (продюсером выступил популярный певец Пьер Картнер, известный также как «Отец Абрахам»). Альбом содержал такие песни в его исполнении, как «O Sole Mio» и «Гранада». Два года спустя, в 1978 году, вышел новый альбом с песнями в исполнении юного Карлоса Марина — «Моя дорогая мама» (Mijn Lieve Mama). В это время он брал уроки сольфеджио и игры на фортепьяно. В Нидерландах его прозвали «Карлос — маленький Карузо».
Когда ему было 12 лет, вся семья переехала на постоянное место жительства в Мадрид. В возрасте 15 лет Карлос стал победителем конкурса «Молодые люди» (Gente Joven), через 5 лет — победителем ещё одного конкурса, «Новые люди» (Nueva Gente). Оба проводились испанским телевидением (TVE). В эти годы он также принимал участие в различных музыкальных телевизионных представлениях и концертах — пел в сопровождении оркестра. Участвовал в певческих соревнованиях, в частности, в одном из них занял второе место (1996).