Перші Олімпійські ігри, про які є задокументована згадка, відбулись в грецькому місті-державі Олімпія у 766 році до н.е., однак є свідчення того, що на той час вони вже проводились принаймні півтисячоліття. Античні Олімпіади відбувались раз на чотири роки в період релігійного фестивалю на честь Зевса. У VIII столітті до н.е. в них брали участь спортсмени з десятків грецьких міст, а вже у V столітті до н.е. — не менше, ніж з сотні. На початках до їх програми входили лише змагання з бігу, пізніше до додались боротьба, бокс, перегони верхи на конях і на колісницях, з 708 року до н.е. — пентатлон, багатоборство з бігу, стрибків у довжину, метання диску і дротика та боротьби.
Після завоювання грецьких держав Римською республікою значення Олімпійських ігор почало поступово зменшуватись, допоки в 393 році римський імператор-християнин Феодосій Великий, прагнучи придушити будь-які прояви язичнцьких традицій, не заборонив проведення Олімпіад. Інтерес до грецької культури почав поступово поновлюватись в епоху Відродження, і у XVII-XIX століттях в ряді країн Європи спорадично проходили національні фолькльорні спортивні змагання на зразок давньогрецьких. Одним із ентузіастів подібного роду видовищ загалом і спорту зокрема був 29-річний француз барон П’єр де Кубертен, історик і освітянин, прихильник включення фізкультури, яка «може закласти основи моральної і соціальної сили нації», до обов’язкової шкільної програми за зразком англійських освітніх закладів.
Незважаючи на те, що на офіційному рівні у Франції його наміри підтримки не знайшли, Кубертен ентузіазму не втратив і у 1889 році заснував щомісячний журнал «La Revue Athletique» і Союз французьких спортивних товариств, на першому засіданні якого висунув ідею проведення міжнародних легкоатлетичних змагань. У пошуку однодумців він зумів заручитись підтримкою британця Вільяма Брукса, великого ентузіаста впровадження фізкультури у школи і засновника перших в Англії «олімпійських» класів, і заможних грецьких бізнесменів-філантропів братів Константіноса і Євангелоса Заппасів, які власним коштом у 1859, 1870, 1875 і 1888 роках у центрі Афін проводили легкоатлетичні змагання під назвою «Олімпіада».
Їх зусиллями 23 червня 1894 року у Сорбонні в Парижі відбулась міжнародна спортивна конференціія за участю 79-и делегатів від 9 країн, які одноголосно підтримали ідею створення Міжнародного олімпійського комітету (МОК), який очолив грецький підприємець Деметріос Вікелас. На конференції також було прийняте рішення проводити Олімпійські ігри щочотири роки, відмовитись від стародавніх видів спорту, організувавши їх за новою програмою змагань, і провести перші з них 6 квітня (25 березня за ст. ст.) 1896 року в Афінах у День незалежності Греції. Місце було обрано невипадково: крім романтичної ідеї відродити давньогрецькі змагання, вирішальною стала наявність місця для їх проведення — стадіону «Панатінаїкос», збудованого коштом братів Заппасів на місці античного стадіону, де у давні часи відбувались Панафінейські ігри на честь покровительки міста богині Афіни.
Звістка, що Олімпійські ігри набудуть статус міжнародних, була добре прийнята грецькою громадськістю, засобами масової інформації та королівською родиною. Однак країна мала фінансові проблеми і перебувала у вже тривалому періоді політичної нестабільності. Прикрою несподіванкою для МОК стала новина, що вартість заходу виявилась утричі більшою, ніж створений братами Заппасами фонд змагань, — 3,74 млн золотих драхм, що ставило під сумнів проведення Ігор. Разом із Вікеласом де Кубертен звернувся по підтримку до короля Георга, і 7 січня 1895 року було оголошено, що його син принц Костянтин з «великим задоволенням» очолить оргкомітет змагань. Він звернувся по допомогу до нації і ентузіазм Костянтина був підхоплений громадянами, які пожертвували 330 тисяч драхм. Випуском спеціальної серії марок було зібрано ще 400 тисяч, продажем квитків на майбутні змагання — ще 200 тисяч. На особисте прохання принца відгукнувся один з найзаможніших греків бізнесмен і філантроп Георгіос Авероф, який виділив 920 тисяч драхм на реконструкцію стадіону «Панатінаїкос».
Церемонія відкриття перших міжнародних Олімпійських ігор сучасності 6 квітня (25 березня за ст. ст.) 1896 року почалась з виступу голови оргкомітету МОК принца Костянтина перед спорсменами, вишикуваними на стадіоні «Панатінаїкос», і 80 тисячами глядачів. По його завершенні король еллінів Георг I Глюксбург оголосив Ігри відкритими, закінчивши свій короткий спіч закликом «Хай живе нація! Хай живе грецький народ!». Офіційні заходи завершились виконанням оркестром і хором зі 150 чоловік Олімпійського гімну, написаного Спиридоном Самарасом на слова Костіса Паламаса.
У перших Олімпійських іграх брало участь 243 спортсмени з 14 країн (Австралії, Австрії, Болгарії, Великобританії, Греції, Данії, Італії, Німеччини, США, Угорщини, Франції, Чилі, Швеції і Швейцарії), котрі змагались за першість у 43-х категоріях з таких видів спорту, як легка атлетика, плавання, гімнастика, велосипедні перегони, боротьба, важка атлетика, фехтування, стрільба, теніс і марафонський біг. Більша частина легкоатлетичних змагань і турнір з боротьби пройшли на стадіоні «Панатінаїкос», велосипедні перегони — на велодромі «Фалірон», спортивна стрільба — у місті Каллітея, першість з фехтування — у палаці Заппіон, плавання — у затоці Зея Егейського моря.
Найбільше медалей завоювали американські (загалом 20, з них 11 найвищої проби), грецькі і німецькі спортсмени. В індивідуальному заліку кращим був німець Карл Шухманн з чотирма вищими нагородами у гімнастиці і боротьбі. Героєм грецьких вболівальників став 23-літній пастух Спиридон Луїс, який 10 квітня за 2 години 58 хвилин 50 секунд подолав близько 40 кілометрів від легендарного Марафону до Афін.
Заплановану на вівторок 14 квітня (5 квітня за ст. ст.) 1896 року церемонію закриття Ігор через дощ довелось перенести на наступний день. Вона розпочалась із виконання грецького гімну і спеціально написаної британцем Джорджем Робертсоном оди, після виконання яких король вручив спортсменам нагороди: переможцям — срібну медаль, оливкову гілку та диплом, другим — мідну медаль, лаврову гілку та диплом; за третє місце жодної відзнаки вручено не було. Деякі переможці також отримали додаткові призи, як наприклад Спиридон Луїс, винагороджений кубком з рук історика Мішеля Бреаля, друга барона Кубертена, автора ідеї включення до Олімпійської програми забігу на марафонську дистанцію. Йому ж, улюбленцю публіки, було доручено очолити колону медалістів, які здійснили почесний прохід по стадіону під захоплені вигуки глядачів. Завершилась церемонія заключними словами короля Георга і виконанням грецького національного гімну.
Того ж 1896 року П’єр де Кубертен змінив Деметріоса Вікеласа на посаді президента МОК. Він доклав чимало зусиль для популяризації олімпійського руху і всупереч бажанню грецьких офіційних осіб приймати в Афінах і наступні змагання, втілив ідею їх проведення у різних країнах, провівши другу Олімпіаду в травні 1900 року у Парижі. Всупереч очікуванню, вона не мала великого резонансу через грандіозну Світову виставку, що тими ж днями проходила у столиці Франції, де сенсацією стала стометрова Ейфелева вежа. Перші дійсно успішні і масові Олімпійські ігри відбулись лише в 1924 році в тому ж таки Парижі: в них взяло участь більше 3 тисяч атлетів, включаючи 100 жінок, з 44 країн. Тоді ж у французькому альпійському містечку Шамоні відбулись і перші Зимові Олімпійські ігри, що проводилися як «Міжнародний спортивний тиждень з нагоди VIII Олимпіади».
У 1925 році 62-річний П’єр де Кубертен подав у відставку з посади президента Міжнародного Олімпійського комітету. До улюбленої справи він повернувся через десять років, допомагаючи у проведенні Берлінської олімпіади, за що урядом Німеччини був висунутий на Нобелівську премію миру, котру, однак, не отримав, програвши у 1936 році ув’язненому журналісту-антифашисту Карлу фон Осецькому.