第一届奥运会克服重重困难，终于在1896年4月6日开幕了。这是历届奥运会举行月份最早一次。东道主之所以将开幕式选在这一天，是为了纪念希腊反抗土耳其统治起义75周年。
应邀参赛的有澳大利亚、奥地利、保加利亚、英国、匈牙利、德国、丹麦、美国、法国、智利、瑞士、瑞典和东道主希腊13个国家的311名运动员，希腊阵容最大，共230人占总数的三分之二；德国、法国各19人；美国14人，居第四位。
本届比赛项目有田径、游泳、举重、射击、自行车、古典式摔跤、体操、击剑和网球9个大项。原计划中有赛艇项目，后未举行。取消的原因有两种不同的说法，一说是气候不佳海面风大，无法进行；另一说法是无人报名，不得不改变计划。
战幕于4月6日开幕式当于拉开。美国詹姆斯.康诺利在三级跳远赛中旗得胜，成绩是13.71米，成为现代奥运会的第一个冠军。