Марчелло Мастроянни родился в горной деревне Фонтана-Лири в Апеннинах, в семье Отторино Мастроянни и Иды Иролле.
Имеется информация, активно распространяемая в белорусских и израильских блогах о том, что мать Мастроянни родилась в Минске (тогда в Российской империи) в еврейской семье. По документам , Ида Иролле, родилась в 1898 году в Арпи́но (итал. Arpino, лат. Arpinum) — городе, расположенном в области Лацио, в провинции Фрозиноне. Городские гиды в Арпино рассказывают, что отцом Иды был офицер кавалерии, известный своим музыкальным дарованием.
Младший брат Марчелло, Руджеро, родился в Турине в 1929 году и стал впоследствии известным киномонтажёром и киноактёром.
Детство и юность Мастроянни прошли в Турине и Риме. Спектакли тех лет были выдержаны в сугубо неореалистической тональности, равно как и первые фильмы с участием молодого актёра.
Сыграв у Лукино Висконти в «Белых ночах» (1957) и у Марио Моничелли в криминальной комедии «Злоумышленники, как всегда, остались неизвестны» (1958), Мастроянни был замечен Федерико Феллини, который пригласил его на главную роль в своей грандиозной кинофреске «Сладкая жизнь» (1960). Этот фильм мгновенно сделал его известным и востребованным во всей Европе в непривычной для него актёрской ипостаси интеллектуала и космополита.