Gimnastyka jest jedną z najstarszych dyscyplin olimpijskich, uprawiana była już w starożytności. Obecnie składa się z trzech dyscyplin sportowych:
Gimnastyka artystyczna - jest połączeniem gimnastyki i tańca. Dyscyplina ta polega na wykonywaniu zharmonizowanych z muzyką układów ćwiczeń, w których najważniejszym elementem jest estetyka i taneczność ruchu. Głównymi przyborami są : maczuga, wstążka, piłka, obręczskakanka. Ćwiczenie z każdym z przyborów stanowi osobną konkurencję - które łącznie dają wynik wieloboju. Konkurencje odbywają się indywidualnie i drużynowo, a dyscyplina ta jest wyłączną domeną kobiet. Chociaż pierwsze zawody w gimnastyce artystycznej odbyły się ponad 50 lat temu, to w skład dyscyplin olimpijskich weszła dopiero w 1984 roku.
Gimnastyka sportowa - jest jedną z najpopularniejszych dyscyplin olimpijskich, a jednocześnie jedną z najbardziej wymagających, gdyż jest kombinacją siły, zręczności i giętkości. Mężczyźni rywalizują w ćwiczeniach wolnych, na koniu, na poręczydrążku oraz w skoku przez konia. Kobiety natomiast w ćwiczeniach wolnych, na równoważni, na poręczach i w skoku przez konia. Dodatkowo zdobywa się medale w wieloboju (także drużynowo). Ćwiczenia ocenia się pod względem trudności, kompozycji i wykonania.
Skoki na batucie - polegają na wykonywaniu skoków akrobatycznych na rozpiętej nad ziemią szerokiej siatce. Batuta jest siatką o rozmiarze: 4,25x2,14 m, wykonaną z mocnego nylonu, zamocowaną ok. 120 sprężynami do stalowej ramy, 1,5 m nad podłogą. Program standardowy składa się z 10 ćwiczeń, które zawodnicy wcześniej (2 dni przed zawodami) zadeklarowali się przedstawić.
Konkurencje gimnastyczne odbywały się w Ateńskim Kompleksie Olimpijskim oraz w Hali Olimpijskiej Galatsi.