1896年4月6日，第1届
奥运会在
希腊雅典开幕。之所以将这一天作为开幕日，是为了纪念希腊反抗土耳其统治起义75周年。下午3时，希腊国王乔治一世庄严地宣布大会开幕。他以东道主的身份向各国来宾及选手表示热烈的欢迎。当他赞扬
顾拜旦为创办
现代奥运会所作的努力时，全场6.9万名(一说达8万名)观众欢呼雀跃，掌声雷动，经久不息，向顾拜旦这位创始人表示深深的敬意。他还说：“愿
奥运会的复兴能增进希腊人民与各国人民的博爱愿体育运动和它的
道德观念有助于造就新一代的希腊人，从而无愧于他们的祖先。”场内再次欢声如雷。
国王致开幕词后，由萨马拉斯指挥演奏了他自己谱写的《
奥林匹克圣歌》。这是一曲庄严的古典弦乐，也是一首十分动人的乐曲。在此之后，一直有人试图修改这首歌，但都未成功。1958年
国际奥委会讨论通过，将它定为正式的
奥运会会歌。
本届比赛项目有
田径、游泳、
举重、
射击、
自行车、古典式
摔跤、
体操、
击剑和网球9个大项目。原计划中有
赛艇项目，后未举行。取消的原因一说是气候不佳，海面风大，另一说是无人报名。
比赛于4月6日开幕当天拉开。美国的康诺利在三级跳远中旗开得胜，成为现代奥运会的
第一个冠军。他获胜后，运动场上升起了美国国旗。在这以后，升旗就成了奥运会的传统发奖仪式。美国运动员是这届奥运会田径赛的宠儿。在康诺利夺冠后两小时，又一选手在铁饼项目中获取冠军。他是普林斯顿大学的学生加勒特，以前他从未投过也从未见人投过铁饼。奥运会前，当加勒特得知有这项比赛时，便想方设法打听到了铁饼的投掷方法，并专门仿照古希腊雕塑《掷铁饼者》的铁饼样子做了一个铁饼，自己琢磨着练习。来雅典后，他发现比赛用的铁饼比自己做的轻些，使用时也方便些，便来了情绪，一下子就掷出了 29.15米，超过了舆论认为稳操胜券的希腊运动员 19.5厘米，爆出了一大冷门。后来他还获得了铅球第一名。
在田径赛的径赛中，值得一提的是100米和马拉松长跑。体育场径赛跑道呈“U”字形，全长333.33米，直道长192米。跑道的分道线用白色带子标识，两头系于插在地面的短棍上。运动员差不多都穿着大皮鞋，起跑姿势各式各样，有直立着的，也有弯着腰的，只有美国的伯克采用双手扶地、臀部高翘的近似“蹲踞式”的起跑法，虽然引来周围的一阵嘲笑，但他最后以12秒整的成绩夺得冠军。现在“蹲踞式”起跑已成为短距离赛跑普遍采用的姿势。
雅典奥运会最热烈、最轰动的场面，是马拉松赛。马拉松长跑比赛，是根据法国学者的建议，为纪念公元前490年的马拉松战役设置的。路线是昔日马拉松战役的英雄菲迪皮德斯所跑过的路线，在雅典和马拉松平原之间，全程40公里。希腊人对这项比赛非常关心，这不仅是由于它的象征意义，还因为田径项目开赛以来，希腊接连受挫，未拿到一项冠军，而马拉松赛，是他们寄予希望的惟一一个项目。
比赛于4月10日进行，参赛的有4个国家的17名运动员，气氛十分热烈。当时雅典只有13．5万人，而观看这项
马拉松比赛的竟达10万人之多，真可谓“万人空巷”。当身着浅蓝背心的希腊人路易斯终于不孚众望第一个冲入运动场时，全场一下子沸腾起来，人们雀跃欢呼，欢声雷动。担任大会总裁判的希腊王储康士坦丁情不自禁地伴随着路易斯跑向终点。国王乔治一世也步下观礼台，迎接这位凯旋的英雄。路易斯跑过终点后，人们潮水般地涌入场内，争相拥抱他，把他抛上抛下，使他置于鲜花和欢乐的人海之中。后来，他获得了希腊民族英雄的光荣称号。
举重、摔跤比赛在当时未按体重分级。举重只有单手举和双手举两项。在摔跤比赛中，德国小个子选手舒曼奋力拼搏，把所有比他重几十磅的大个子都摔倒在地。后来在宴会上，希腊国王向他祝酒时说“在雅典，你比我更有名气。”当时对运动员参赛项目没有规定，也没有参赛标准，因此不少运动员是跨项的。舒曼就是跨项选手之一，除摔跤获得第一外，他还参加了田径、体操比赛。他在体操比赛中，取得跳马、双杠团体和单杠团体第一。总共4项第一，成为本届获金牌最多的选手。
游泳比赛在附近的海湾进行。整个比赛不太正规：距离是大致估算的，未经仔细测量有的项目是临时增加的，连赛程表上都没有；游泳姿势五花八门，是真正的“自由式”。比赛当天，天气阴沉，海浪汹涌，水温低至13度，但运动员仍勇敢拼搏。匈牙利仅有的一名游泳选手—18岁的哈约什获得了100米、 1200米自由泳两项冠军，被希腊报刊誉为“匈牙利海豚”。
自行车比赛的大部分项目安排在赛车场内。另有一项公路赛，路线是从雅典到马拉松再折回雅典，全程87公里。当时没有专门的赛车，加之道路崎岖，车子又经常出毛病，甚至无法骑驶，比赛难度很大。获得冠军的希腊运动员康斯坦丁尼迪斯两易其车才骑完全程。100公里场地赛情况更糟，9名选手只有两人骑完全程。法国的弗拉芒一路领先，当他发现希腊选手科列蒂斯因车子坏了而停下时，他也随即下车，协助后者将车修好后才继续前进，而且最终获得了冠军。这种高尚的运动员风度，被观众传为佳话。
虽然本届运动会不允许职业运动员参赛，但击剑除外。本届击剑只有花剑、佩剑两个剑种，分业余和职业两种比赛。法国选手和希腊选手分别获得了业余赛的花剑和佩剑冠军。职业赛只有花剑一项，冠军由雅典击剑学校的老板、著名职业剑手皮戈斯获得。
4月15日，所有比赛在观众的热烈掌声下，以良好的秩序，
和谐而顺利地落下了帷幕。比赛期间看台上座无虚席，甚至过道上也被挤得满满的，充分体现了希腊民众的热情。历时10天的
首届奥运会圆满结束，比赛结果美国共获得11项第一名、7项第二名和 1项第三名；东道主获10项第一名、19项第二名、17项第三名；德国获6.5项第一名、5项第二名、2项第三名，半个第一名足与英国选手在网球双打中共同获得的。
闭幕式由希腊国王乔治一世主持，并颁发奖牌，当时对奖牌质量的成分、规格大小和图案设计等，都无严格的规定。据说，东道主认为金子常常与赌博游戏连在一起，显得俗气，故奖牌只有银、铜牌两种。授予冠军的足银牌和橄榄环，亚军的是铜牌和月桂花冠。后来，为了统计上的方便，本届奥运会奖牌仍按金、银、铜3类计算。颁奖仪式后，顾拜旦率领全体获奖选手以各参加国国旗为前导绕场一周，与观众见面。最后由国王宣布闭幕。会后，国王在华丽的王宫中，设盛宴欢送全体工作人员及各国选手。
在10天的奥运会期间，雅典市政府同时举行了艺术展览、古代戏剧演出、
火炬游行以及酒会等
文化活动，以弘扬
古代奥运会与
文化艺术密切相联的传统。
雅典，在1896年拉开了现代奥运会光荣的历史序幕。尽管它还很幼稚，且暴露出一些明显的缺点和不足，如未邀请殖民地国家参加，妇女被排斥于奥运会之外，未设集体项目，等等，但毕竟为奥运会的发展奠定了基础，对奥林匹克运动起到了推动作用
