Джоэль Мюррей родился 17 апреля 1963 года в деревне Уилметт, штат Иллинойс, в семье Люсиль Дойл (в девичестве — Коллинс) и Эдварда Джозефа Мюррея-второго (ум. 1967), торговца древесиной. Его родители были ирландскими католиками, у Джоэля было семь братьев и сестра, трое из братьев также стали актёрами.
Учился в высшей школе Loyola Academy, карьеру начал в Чикаго, где брал уроки актёрского мастерства у известного актёра и педагога Дела Клоуза, выступал в импровизационных iO Theater, Improv Institute и The Second City. Впервые на широком экране появился в 1986 году в фильме «Одно безумное лето» сразу в главной роли, в следующем году дебютировал на телевидении в ленте «Долгий путь». В итоге к 2013 году Джоэль Мюррей сыграл примерно в 60 фильмах и сериалах, озвучил одну видеоигру. В 2000-х годах несколько раз пробовал себя как режиссёра, сценариста и продюсера.