Олимпийская идея и после запрета античных состязаний не исчезла насовсем. Например, в Англии в течение XVII века неоднократно проводились «олимпийские» соревнования и состязания. Позже похожие соревнования организовывались во Франции и Греции. Тем не менее, это были небольшие мероприятия, носившие, в лучшем случае, региональный характер. Первыми настоящими предшественниками современных Олимпийских игр являются «Олимпии», которые проводились регулярно в период 1859—1888 годов. Идея возрождения Олимпийских игр в Греции принадлежала поэту Панайотису Суцосу, воплотил её в жизнь общественный деятель Евангелис Заппас.
В 1766, в результате археологических раскопок в Олимпии, были обнаружены спортивные и храмовые сооружения. В 1875 археологические исследования и раскопки продолжились под немецким руководством. В то время в Европе были в моде романтическо-идеалистические представления об античности. Желание возродить олимпийское мышление и культуру распространилось довольно быстро по всей Европе. Французский барон Пьер де Кубертен (фр. Pierre de Coubertin), осмысливая впоследствии вклад Франции, сказал: «Германия раскопала то, что осталось от древней Олимпии. Почему Франция не может восстановить старое величие?».
По мнению Кубертена, именно слабое физическое состояние французских солдат стало одной из причин поражения французов в Франко-прусской войне 1870—1871. Он стремился изменить положение с помощью улучшения физической культуры французов. Одновременно с этим, он хотел преодолеть национальный эгоизм и сделать вклад в борьбу за мир и международное взаимопонимание. «Молодежь мира» должна была мериться силами в спортивных состязаниях, а не на полях битв. Возрождение Олимпийских игр казалось в его глазах лучшим решением, чтобы достичь обеих целей.
На конгрессе, проведённом 16-23 июня 1894 года в Сорбонне (Парижский университет), он представил свои мысли и идеи международной публике. В последний день конгресса было принято решение о том, что первые Олимпийские Игры современности должны состояться в 1896 году в Афинах, в стране-родоначальнице Игр — Греции. Чтобы организовать проведение Игр, был основан Международный олимпийский комитет (МОК). Первым президентом Комитета стал грек Деметриус Викелас, который был президентом до окончания I Олимпийских Игр 1896 года. Генеральным секретарём стал барон Пьер де Кубертен.
Первые Игры современности прошли с большим успехом. Несмотря на то, что участие в Играх приняли всего 241 атлетов (14 стран), Игры стали крупнейшим спортивным событием, прошедшим когда-либо со времён Древней Греции. Греческие официальные лица были так довольны, что выдвинули предложение о «вечном» проведении Игр Олимпиады на их родине, в Греции. Но МОК ввёл ротацию между разными государствами, чтобы каждые 4 года Игры меняли место проведения.
После первого успеха, олимпийское движение испытало и первый кризис. II Олимпийские игры 1900 года в Париже (Франция) и III Олимпийские игры 1904 года в Сент-Луисе (штат Миссури, США) были совмещены со Всемирными выставками. Спортивные соревнования тянулись месяцами и почти не пользовались интересом у зрителей. В Играх в Сент-Луисе участвовали почти только американские спортсмены, так как из Европы добраться через океан в те годы было очень сложно по техническим причинам.
На Олимпийских играх 1906 в Афинах (Греция) вновь вышли на первое место спортивные соревнования и результаты. Хотя МОК первоначально признавал и поддерживал проведение этих «промежуточных Игр» (всего через два года после предыдущих), сейчас эти Игры не признаются олимпийскими. Некоторые спортивные историки считают Игры 1906 спасением олимпийской идеи, так как они не дали играм стать «бессмысленными и ненужными».