Отец Марка — художник, мать — парикмахер. Его отец итальянского происхождения, а у матери канадские и итальянские корни. Кроме Марка в семье было трое детей. Детство Руффало прошло в Висконсине, а позднее — в Сан-Диего. Окончив школу, Марк учился в Консерватории Стеллы Адлер в Лос-Анджелесе.
Девять лет проработал в театре, известность пришла к нему в 2000 г. после роли в фильме «Можешь рассчитывать на меня». В 2002 году Марк готовился к съёмкам в фильме «Знаки», когда у него была диагностирована опухоль головного мозга. В настоящее время, несмотря на осложнения после операции (некоторое время у актёра был паралич лицевого нерва), Марк Руффало здоров и успешно снялся в таких фильмах, как «Соучастник» и «Вечное сияние чистого разума».
В 2011 году был номинирован на премию «Оскар» за лучшую мужскую роль второго плана в картине «Детки в порядке». В 2015 году получил вторую номинацию на «Оскар» и был отмечен множеством наград за роль олимпийского чемпиона по вольной борьбе в драме «Охотник на лис». Через год в третий раз получил номинацию на «Оскар» за роль в драме «В центре внимания», которую в 2016 году получил за этот фильм в категории «Лучший фильм года».
