Вопрос о возрождении Олимпийских игр неоднократно обсуждался в разных странах, однако реализовать эту идею удалось только благодаря стараниям француза Пьера де Кубертена, создавшего в 1984 году МОК. Изначально планировалось провести мероприятие в 1900 году, однако организаторы опасались, что за шесть лет ожидания интерес к играм пропадет, и их проведение окажется бессмысленным. При выборе места для проведения Олимпиады рассматривали несколько городов, но в итоге выбрали Афины, чтобы подчеркнуть связь современного движения с древним.
Церемония открытия прошла 6 апреля. Она, как и в наше время, включала в себя короткую речь главы государства, где проводились игры, а также исполнение олимпийского гимна. Но есть и отличия: в частности, в 1896 году еще не было клятвы спортсменов. К участию в Олимпиаде был допущен 241 человек, притом спортсменок среди них не оказалось. Соревнования проходили в 9 видах спорта: легкая атлетика, стрельба, спортивная гимнастика, греко-римская борьба, плавание, велоспорт, тяжелая атлетика, теннис и фехтование.
На Олимпийских играх в Афинах спортсменов еще не было принято делить по национальному признаку, поэтому выяснять, какая именно из четырнадцати стран-участниц завоевала медали в том или ином виде спорта, пришлось членам МОК много лет спустя. Проблема заключалась также в том, что в соревнованиях по теннису участвовали смешанные команды. Кроме того, некоторые спортсмены имели гражданство одной страны, а фактически проживали в другой. Тем не менее, отчасти удалось прийти к соглашению и распределить медали, хотя все еще остаются спорные моменты.
К сильному огорчению греков, на Олимпиаде 1896 года первые места в основном занимали иностранцы. Американцы завоевали золото в соревнованиях по тройным прыжкам и метанию диска, а также в беге на 100 и 400 м. Француз Поль Массон победил в спринтерской гонке и в велосипедном заезде на 2000 и на 10000 м. Среди тяжелых атлетов лучшими оказались англичанин Лонсестон Эллиот и датчанин Вигго Енсен. В соревнованиях по борьбе и по гимнастике отличились немцы, а в состязаниях по плаванию победил венгр Альфред Хайош. Греки завоевали медали за победу в состязаниях по бегу, стрельбе из револьвера и армейской винтовки и в фехтовании на рапирах. Соревнования по теннису выиграла смешанная англо-немецкая команда.