Родился 1 сентября 1958 года в городе Херсоне Украинской ССР в рабочей семье. Отец — Леонид Трофимович Гармаш (род. 1933), сначала был водителем, потом окончил институт и стал работать на руководящих должностях. Мать — Людмила Ипполитовна Гармаш (род. 1935), родом из небольшой деревни на Западной Украине, окончила семь классов и всю жизнь проработала диспетчером на автобусной станции (дед по материнской линии — поляк).
Мечтал после школы поступить в мореходное училище, но документы подал в Днепропетровское театральное училище. Окончил последнее по специальности «Артист театра кукол». Затем работал в Херсоне, выезжая с гастролями в близлежащие посёлки и колхозы.
Через два года был призван на военную службу в стройбат.
В 1980 году после увольнения в запас Гармаш поехал в Москву поступать в высшее театральное училище. Первоначально подал документы сразу в три театральных вуза, но потом остановил свой выбор на Школе-студии МХАТ. На экзамене читал двадцатиминутный отрывок из Достоевского.
В 1984 году окончил актёрский факультет Школы-студии (института) имени В. И. Немировича-Данченко при МХАТ СССР имени М. Горького (руководитель курса — Иван Михайлович Тарханов) и был принят в труппу Московского театра «Современник». Стал одним из ведущих актёров театра. В обширном репертуаре актёра: Лопахин в «Вишнёвом саде» А. П. Чехова, старший брат в «Карамазовых и ад» по мотивам позднего Достоевского, Альфонс в «Трёх товарищах» Ремарка, Михаил в «Мурлин Мурло» Николая Коляды и первый министр в «Ещё раз о голом короле» Леонида Филатова.
31 июля 2020 года Сергей Гармаш в «Открытом письме труппе и коллективу „Современника“», отправленном в чат сотрудников театра, сообщил о своём уходе из коллектива, в котором прослужил тридцать шесть лет. Артист объяснил это решение сложившейся в театре после смерти главного режиссёра и художественного руководителя театра Галины Борисовны Волчек (19 декабря 1933 — 26 декабря 2019) «чудовищной ситуацией».
С 1984 года снимается в художественных фильмах и телесериалах. Снимался у Вадима Абдрашитова, Сергея Бодрова, Анджея Вайды, Станислава Говорухина, Павла Лунгина, Никиты Михалкова, Игоря Таланкина, Валерия Тодоровского, Владимира Хотиненко, Сергея Соловьёва, Тимура Бекмамбетова, Юрия Кары.
