Джеймс Роберт «Джим» Джармуш родился 22 января 1953 года в городе Акрон, штат Огайо. По окончании школы в 1971 году в течение года обучался журналистике в Чикагском Северо-Западном университете, затем изменил свою специализацию на английскую литературу и отправился продолжать учёбу в Париж. Находясь в Париже, оказался под большим впечатлением от французского кино и активно посещал Французскую синематеку.
Проведя год за границей, Джармуш вернулся на родину. Он перевёлся в Колумбийский университет, где получил степень бакалавра по английской литературе в 1975 году. Любовь к кино, приобретённая во Франции, привела Джармуша в киношколу Нью-Йоркского университета (New York University’s school of film). В Нью-Йорке он нашёл работу ассистента у режиссёра Николаса Рэя, с которым поддерживал близкие отношения до смерти Рэя от рака в 1979 году.
Свой первый кинематографический опыт Джармуш приобрёл на съёмках фильма Николаса Рэя и Вима Вендерса «Молния над водой» (1980); документальная лента фиксирует мучительный процесс ухода Рэя из жизни. Параллельно Джармуш начал работу над своим полнометражным дебютом «Отпуск без конца». Снятая за 15 тысяч долларов на шестнадцатимиллиметровую плёнку картина вышла в 1980 году и получила высокие оценки критиков.
Второй фильм Джармуша «Более странно, чем в раю» (1984) появился после окончания съёмок дипломной работы — тридцатиминутной короткометражке о венгерских эмигрантах «Новый мир» (New World). Безусловные художественные достоинства последующего фильма позволили ему получить приз «Золотая камера» за лучший дебют на Каннском кинофестивале. «Более странно, чем в раю» — одна из важнейших лент американского независимого кино. В схожей манере Джармуш снял фильмы «Вне закона» (1986) и «Загадочный поезд» (1989). В результате получилась своеобразная трилогия; ленты дают неожиданный взгляд на Америку глазами иностранца.
В 1986 году появился шестиминутный фильм «Кофе и сигареты», в нём Роберто Бениньи и Стивен Райт потребляют означенные продукты и решают, кому из них стоит идти к зубному врачу. Так стартует самый необычный проект Джармуша, завершившийся в 2003 году выходом полнометражной ленты «Кофе и сигареты», содержащей 11 новелл, в которых любимые актёры и музыканты режиссёра курят, пьют кофе и ведут диалоги друг с другом.
Джармуш знаменит своей особенностью объединять в картинах ряд историй. Так, фильм 1991 года «Ночь на Земле» состоит из пяти новелл, связанных общей темой — город, ночь, такси. «Ночь на Земле» — это пять городов мира, пять случайных встреч.
Мистический вестерн «Мертвец» (1995) был оценен критикой только через несколько лет после премьеры в Каннах.
Картина «Пёс-призрак: Путь самурая» (1999) пародирует популярный в недавнем прошлом голливудский жанр гангстерского фильма. Одновременно эта лента предвосхищает возникшую в начале XXI века моду на Японию в творчестве американских режиссёров (София Коппола, Квентин Тарантино, Эдвард Цвик и Роб Маршалл снимут свои «японские» фильмы уже после Джармуша). Этот факт ещё раз свидетельствует о том, что именно независимые режиссёры зачастую прокладывают тот путь, по которому затем движется Голливуд.
Фильм Джармуша «Сломанные цветы» (2005) кажется шагом режиссёра в сторону мейнстрима. Вместо привычных маргиналов главным героем картины становится преуспевающий компьютерщик в исполнении Билла Мюррея, отправляющийся в путешествие по следам своих былых любовных приключений. За эту ленту Джармуш получает Гран-при Каннского кинофестиваля.
В 2006 году снял клип для группы The Raconteurs на песню «Steady, As She Goes».
В 2009 году Джармуш выпустил фильм-притчу «Пределы контроля» под эгидой Focus Features, который получила смешанные отзывы от кинокритиков.
В 2012 году Джим совместно с голландским лютнистом Йозефом ван Виссемом выпустил два минималистических музыкальных альбома: Concerning the Entrance into Eternity и The Mystery of Heaven.
В 2013 году Джармуш снял фильм «Выживут только любовники», который сам описывает как «криптовампирскую любовную историю».
В 2016 году состоялась премьера фильма «Патерсон». Сюжет фильма рассказывает о повседневных переживаниях водителя автобуса и поэта из Патерсона, штат Нью-Джерси. Источником вдохновения для фильма послужило творчество Уильяма Карлоса Уильямса поэта-объективиста и его поэма «Патерсон». Фильм отличается язвительным, минималистичным стилем, характерным для других работ Джармуша, и получил 22 номинации на престижные кинопремии.