Считается, что сборная Люксембурга начала участвовать в Играх с 1912 года. В 1900 году от Франции выступал люксембуржец Мишель Теато. В легкой атлетике Теато завоевал золотую медаль, но было решено, что награда присуждается французской команде. В зимних Играх люксембуржцы участвуют с 1928 года.

По общему количеству медалей Люксембург располагается на 84 месте среди всех олимпийских сборных. Не считая награды Теато, на счету у люксембургской команды 4 медалей. Две из них приходятся на зимние соревнования.

Первую награду взяли люксембуржцы в 1920 году — серебро. Это сделал тяжелоатлет Жозеф Альцин. Золотая медаль была получена в 1952 году. Ее завоевал легкоатлет Жози Бартель, который является единственным люксембургским обладателем олимпийского золота. Две «зимние» награды достались спортсменам в 1992 году. Это было два серебра. Призером стал спортсмен по горнолыжному спорту Марк Жирарделли, выиграв медали в дисциплинах гигантского слалома и супер-гиганта.