Его отец, Семён Давидович Голощёкин, работал на киностудии «Ленфильм»; мать, Нина Петровна Голощёкина (урожд. Пухова), была выпускницей балетной студии. Окончил Ленинградское музыкальное училище им. Н. А. Римского-Корсакова. Впервые выступил как музыкант на джазовом фестивале «Таллин-1961». Работал в различных джазовых группах, в том числе у Эдди Рознера.
В 1963 году в Ленинграде основал собственный джазовый «Ансамбль Голощёкина». Как исполнитель тяготеет к классическому джазу. В 1971 году во время гастролей Дюка Эллингтона в Ленинграде играл перед знаменитым джазменом, а после и вместе с ним. Сам Эллингтон высоко оценил выступление Голощёкина. В 1977 году записал пластинку «Джазовые композиции», где исполнил практически все инструментальные партии. Снялся в нескольких кинофильмах. В 1989 году основал в Ленинграде Государственную филармонию джаза. В 1994 году — петербургский джазовый фестиваль «Свинг белой ночи».
Давид Семёнович является бессменным лидером московско-петербургского джазового ансамбля «Четверо», в состав которого также входят пианист Алексей Подымкин, барабанщик Виктор Епанешников и контрабасист Сергей Васильев. Особенность коллектива в том, что он объединяет заслуженных джазовых исполнителей и молодых музыкантов, тем самым подчёркивая связь двух поколений.
Является профессором Российского государственного педагогического университета им. А.И. Герцена.