Родители Брижит Бардо поженились 3 августа 1933 года в Париже, в католической приходской церкви Сен-Жермен-де-Пре. Мать, Анна-Мари Мюсель по прозвищу Тоти́, родилась в Париже в 1912 году, а выросла в Милане. Отец, Луи Бардо по прозвищу Пилу́, также родился в Париже, в 1896 году. Инженер по образованию, он окончил Высшую электротехническую школу и позже вместе со своим отцом Шарлем работал в семейной фирме «Шарль Бардо и К°», производившей ацетилен и сжатый воздух. Увлекался фотографией, а также поэзией, и выпустил несколько сборников собственных стихов, включая «Стихи вразнобой» (Vers En Vrac), который принёс ему Вокеленовскую премию Французской академии (Prix Paul Labbé-Vauquelin de l'Académie française). Являлся участником Первой мировой войны и был награждён орденом Почётного легиона. Через год после свадьбы Анны-Мари Мюсель и Луи Бардо, в квартире на Вьоле (площадь) в 15-м округе Парижа, на свет появилась Брижит Анн-Мари Бардо. Вес новорождённой составлял 3,2 килограмма.
Брижит была воспитана в строгих католических традициях. Вместе с младшей сестрой Мари-Жанной по прозвищу Бардо, Мижану (родилась 5 мая 1938 года) посещала католическую школу. У неё сменилось несколько нянь и гувернанток, благодаря одной из которых, итальянке по происхождению, она выучила итальянский язык. В детстве Брижит не считали красивой: она страдала от аллергической сыпи и амблиопии, носила специальные очки от близорукости и скобки на зубах — в течение долгих лет стеснялась своей внешности. «Я была таким заторможенным, хмурым ребёнком. У меня отвратительный нос. Рот тоже никуда не годится. Верхняя губа тяжелее, чем нижняя, словно опухшая. Щёки слишком круглы, а глаза, наоборот, малы», — признавалась Бардо. По словам некоторых биографов актрисы, Мижану была любимицей родителей, а Брижит считали «гадким утёнком». «Брижит — злючка, да ещё и некрасивая», — говорила её мать Тоти.
Мать Брижит, которая сама занималась балетом в юности, пыталась привить дочерям любовь к музыке и танцам. С семи лет обе сестры учились в танцклассе Марселя Бурга, бывшей звезды «Гранд-оперы». Эти занятия помогли Брижит преодолеть излишнюю застенчивость и придали девушке уверенность в себе. Мижану не отличалась успехами в занятиях балетом и, обнаружив у себя склонность к точным наукам, вскоре покинула танцы. Брижит, которая не была способной ученицей в школе, имела естественную пластику и грацию и решила сосредоточить свои усилия на балетной карьере.