Джеймс Роберт «Джим» Джармуш родился 22 января 1953 года в городе Акрон, штат Огайо. По окончании школы в 1971 году он в течение года обучается журналистике в Чикагском Северо-Западном университете, затем меняет свою специализацию на английскую литературу и отправляется продолжать учёбу в Париж. Находясь в Париже, он оказывается под большим впечатлением от французского кино и активно посещает Французскую синематеку.
Проведя год за границей, Джармуш возвращается на родину. Он переводится в Колумбийский университет, где получает степень бакалавра по английской литературе в 1975 году. Любовь к кино, приобретённая во Франции, приводит Джармуша в киношколу Нью-Йоркского университета (New York University’s school of film). В Нью-Йорке он находит работу ассистента у знаменитого режиссёра Николаса Рэя, с которым поддерживает близкие отношения до смерти Рэя от рака в 1979 году.
Свой первый кинематографический опыт Джармуш приобретает на съёмках фильма Николаса Рэя и Вима Вендерса «Молния над водой» (Lightning Over Water, 1980); документальная лента фиксирует мучительный процесс ухода Рэя из жизни. Параллельно Джармуш начинает работу над своим полнометражным дебютом «Отпуск без конца». Снятая за 15 тысяч долларов на шестнадцатимиллиметровую плёнку, картина выходит в 1980 году и получает высокие оценки критиков.
Второй фильм Джармуша «Более странно, чем в раю» (1984) появляется после окончания съёмок дипломной работы — тридцатиминутной короткометражке о венгерских эмигрантах «Новый мир» (New World). Безусловные художественные достоинства последующего фильма позволяют ему получить приз «Золотая камера» за лучший дебют на Каннском кинофестивале. Несомненно, что «Более странно, чем в раю» — одна из важнейших (и, возможно, лучших) лент американского независимого кино. В схожей манере Джармуш снимает фильмы «Вне закона» (1986) и «Загадочный поезд» (1989). В результате получается своеобразная трилогия; ленты дают неожиданный взгляд на Америку глазами иностранца.
В 1986 году появляется шестиминутный фильм «Кофе и сигареты», в нём Роберто Бениньи и Стивен Райт потребляют означенные продукты и решают, кому из них стоит идти к зубному врачу. Так стартует самый необычный проект Джармуша, завершившийся в 2003 году выходом полнометражной ленты «Кофе и сигареты», содержащей 11 новелл, в которых любимые актёры и музыканты режиссёра курят, пьют кофе и ведут забавные диалоги друг с другом.
Джармуш знаменит своей особенностью объединять в картинах ряд историй. Так, фильм 1991 года «Ночь на Земле» состоит из пяти новелл, связанных общей темой — город, ночь, такси. «Ночь на Земле» — это пять городов мира, пять случайных встреч и непередаваемое сочетание юмора и грусти, знакомое всем поклонникам Джармуша.
Мистический вестерн «Мертвец» (1995) был оценен критикой только через несколько лет после премьеры в Каннах.
Картина «Пёс-призрак: Путь самурая» (1999) пародирует популярный в недавнем прошлом голливудский жанр гангстерского фильма. Одновременно эта лента предвосхищает возникшую в начале XXI века моду на Японию в творчестве американских режиссёров (София Коппола, Квентин Тарантино, Эдвард Цвик и Роб Маршалл снимут свои «японские» фильмы уже после Джармуша). Этот факт ещё раз свидетельствует о том, что именно независимые режиссёры зачастую прокладывают тот путь, по которому затем движется Голливуд.
Фильм Джармуша «Сломанные цветы» (2005) кажется шагом режиссёра в сторону мейнстрима. Вместо привычных маргиналов главным героем картины становится преуспевающий компьютерщик в исполнении Билла Мюррея, отправляющийся в путешествие по следам своих былых любовных приключений. За эту ленту Джармуш получает Гран-при Каннского кинофестиваля.
В 2006 году снимает клип для группы The Raconteurs на песню «Steady, As She Goes».
В 2009 году Джармуш выпускает фильм-притчу «Пределы контроля» под эгидой Focus Features, который получает смешанные отзывы от кинокритиков.
В 2012 году Джим совместно с голландским лютнистом Йозефом ван Виссемом выпустил два минималистических музыкальных альбома: Concerning the Entrance into Eternity и The Mystery of Heaven.
В 2013 году Джармуш снимает фильм «Выживут только любовники», который сам описывает как «криптовампирскую любовную историю».