Джеймс Юджин Керри родился 17 января 1962 года в городе Ньюмаркет, Канада. Его родителями были Кэтлин Керри (в девичестве Орам), певица, а позже домохозяйка, и Перси Керри, саксофонист-самоучка и бухгалтер. У Джима есть старшие сёстры Пэт и Рита, и старший брат Джон. Джим рос в католической семье. Его предками были ирландцы, шотландцы, французы (со стороны матери) и франкоканадцы (со стороны отца), и изначально его фамилия звучала как Каррэ. Когда Керри исполнилось 14 лет, его семья переехала в Скарборо (Онтарио), где он в течение двух лет посещал Школу Благословенной Троицы в Норт-Йорке. Следующий год учился в Агинкортском институте, а затем недолго посещал среднюю школу Норсвью (в целом провёл три года в 10-м классе).
Финансовые проблемы в семье начались, когда Керри учился в школе. Когда его отца уволили с работы, всей семье пришлось переехать в Скарборо, где Перси нашёл себе работу охранника на фабрике «Титановые колёса» в пригороде Торонто, производившей стальные ободы и шины. Там же приходилось работать и всей семье Керри. После школы Керри и его сёстрам и брату приходилось делать уборку, мыть полы и унитазы. В это время Керри становится замкнутым ребёнком.
Мать Керри, Кэтлин, страдала одной из форм невроза: ипохондрическим синдромом — она приписывала себе симптомы различных болезней, поэтому иногда его мать считали сумасшедшей. Когда же вся семья решила бросить эту работу, им пришлось жить в автофургоне «Фольксваген». После того, как отец нашёл работу, семья переехала в Берлингтон, Онтарио. Здесь Керри прожил 8 лет, учился в средней школе (Aldershot School), в 1979 году основал группу «новой волны» «Spoons». Здесь он также работал на сталелитейном заводе Дофаско. В феврале 2007 года в интервью газете «The Hamilton Spectator» Керри отметил, что если бы его карьера в шоу-бизнесе не заладилась, то он по-прежнему бы работал на заводе Дофаско.