У Дюка Эллингтона, в отличие от многих его чернокожих соотечественников, было вполне счастливое детство. Его отец Джеймс Эдвард был дворецким и некоторое время служил в Белом доме (Вашингтон). Позже работал копировщиком в Военно-морских силах. Мать была глубоко верующей и хорошо играла на пианино; поэтому религия и музыка сыграли большую роль в его воспитании.
Мальчика окружали достаток, покой и родительская любовь. Мать давала ему уроки игры на фортепиано. С семи лет Эллингтон занимается с учителем музыки, а примерно с 11 лет сочиняет музыку самостоятельно. Затем приходит увлечение рэгтаймом и танцевальной музыкой. Свою первую композицию в стиле рэгтайм «Soda Fountain Rag» Эллингтон написал в 1914 году.
Эллингтон обучался в специализированной школе по прикладным наукам и собирался стать профессиональным художником. Выигрывал конкурс на лучшую рекламную афишу города Вашингтон. Работал плакатистом.
Совершенствовал технику игры на пианино, изучал теорию гармонии. Удовольствие рисовать и работать с красками проходит. Отказывается от предложенного места работы в институте Пратта по прикладному искусству.
В конце концов, в 1917 году он решает стать профессиональным музыкантом. Проходит неофициальное обучение у известных вашингтонских музыкантов. Руководит местными ансамблями.
2 июля 1918 года женится на Эдне Томпсон.
11 марта 1919 года у Дюка Эллингтона рождается сын Мерсер Эллингтон.
В 1919 году Дюк знакомится с Сонни Гриром, ставшим барабанщиком первого эллингтоновского бэнда.
В 1922 году впервые приезжает в Нью-Йорк вместе с Гриром и Хардвиком (соседом Дюка) на короткий ангажемент. В Нью-Йорке Эллингтон берёт неофициальные уроки у признанных мастеров фортепиано Джеймса П. Джонсона и Уилли Лайона Смита.