Стулбарг родился в Лонг-Бич, Калифорния, в семье Сьюзан и Морта Стулбаргов, филантропов. Он был воспитан как реформистский иудей. Стулбарг обучался в Джульярдской школе в Нью-Йорке, которую окончил в 1992 году со степенью бакалавра изящных искусств. Он также изучал актёрское мастерство в Калифорнийском университете Лос-Анджелеса, Литовской академии музыки и театра в Вильнюсе, Британо-американской академии драматического искусств в Оксфорде и Национальном молодёжном театре Великобритании, и учился пантомиме у мима Марселя Марсо.
С 2013 года Стулбарг женат на Май-Лин Лофгрен.
После университета он стал заметным театральным актёром, занятым во многих театральных постановках. Он участвовал в Old Wicked Songs в 1996, Long Day’s Journey into Night в 1998 и в The Pillowman в 2005. За эту роль он впервые номинирован на премию «Тони».
Он также снимается во многих телепроектах, таких как «Закон и порядок», «Дурнушка Бетти», «Фарго» и других.
Его вклад в кинематограф ограничивался второстепенными ролями, такими как адвокат в фильме Ридли Скотта «Совокупность лжи» и другими незначительными. В 2009 году братья Коэн доверили ему главную роль университетского профессора Ларри Гопника в комедии «Серьёзный человек», за которую Стулбарг был номинирован на ряд кинонаград.
В 2010—2013 годах снимался в телесериале HBO «Подпольная империя».
В 2012 году снялся в фильме «Люди в чёрном 3», представ в образе арканианца Гриффина, живущего одновременно в нескольких вероятных мирах.