在1894年巴黎国际体育会议上，顾拜旦曾建议第一届奥运会于1900年与世界博览会同时在巴黎举行，借以扩大奥运会的影响。但顾拜旦的意见遭到了否决。不过屿会代表考虑到顾拜旦为复活奥林匹克运动所作的贡献，尊重他提出的在1900年让奥运会和世界博览会同时举行的设想，同意第二届奥运会在巴黎举行。
但是，雅典奥运会胜利举行后，希腊人对奥运会表现了极大的热情，想推翻第二届会址设在巴黎的决议希腊有些影响的人士认为，奥运会是希腊民族文化的部分，它只能在希腊举行，雅典应成为奥运会的固定地址。如果易地他国召开，则是对伟大的、光辉灿烂的希腊文化的公开掠夺。在第一届奥运会闭幕时，国王乔治一世就亲自出面，要求将雅典定为奥运会的永久会址。当时已接替维凯拉斯任国际奥委会主席的顾拜旦，在这个问题上坚持不让。他说，奥林匹克运动是希腊的，也是全世界的。他认为奥运会必须在不同国家举行，才能使之具有国际性和富有生命力。希腊终于被说服，巴黎赢得了主办权。
世界名城巴黎，虽法国首都位于巴黎盆地中央，横跨塞纳河两岸，水陆交通方便，是举行国际比赛的理想地方，巴黎有世界花都之称，人们一想到它，就很自然地联想到世界上的第一个无产阶级政权－－巴黎公社，想到巴黎圣母院、罗浮宫、埃菲尔铁塔、凯旋门等这些名胜古迹。但是，一个美丽的城市，并没有敞开胸怀热情迎接这届奥运会。顾拜旦想利用世界博览侍来扩大奥林匹克运动影响的打算，未能如愿以偿。法国政府对博览会的兴趣远胜于奥运会，而承办两项会务的主要微人阿夫雷德.皮卡尔，是一个不热心体育的人，他对顾拜旦提出的奥运会筹备方案淡然置之，甚至认为一屑一顾。他把主要精力放在博览会上，而对奥运会的比赛项目，日程、场地等均无周密安排，更谈不上花费巨款去兴建体育设施。顾拜旦竭尽全力，多方游说，但一无所成。后来，他甚至实际上被挤出了领导班子。顾拜旦在日记中道出了他内心的愤慨和苦恼：“世界上有一个对奥运会非常冷淡的地方。这就是巴黎。”
运动会于5月20日至10月28日进行，比赛日程安排得很不紧凑，如击剑赛安排在6月，田径体操赛在7月，游泳、赛艇在8月，自行车赛在9月，等等，整个运动会开了5个多月，堪称是一次“马拉松”式的运动会。比赛场地也很分散，大会组织者竟别出心裁，将比赛项目按博览会工业类别分在16个区域进行。例如，击剑被安排在刀剑制造工业区，划船安排在救生系统展览区等，实际上，运动会成了博览会的一部分，成了展览会招揽观从的体育表演。有的项目比赛完了，个别选手甚至不知自己参加的是奥运会赛。
虽说巴黎对待奥运会是冷淡的，但它仍然以其繁华和驰名世界的风光，吸引不少参加者。参赛国家达21个，运动员共1330人，这比上届要多得多。特别是运动员中有11名女子，突破了古代奥运会和现代第一届奥运会不许女子参加的禁令。虽说这次女子参赛并未得到国际奥委会正式认可，却开创了女子走向世界体坛的先例。这次率先派女子参赛的法国、英国、美国、和波希米亚。东道主派出了884名运动员组成的宠大选手团，人数居首位；英国次之，共103人；美国列第三位，共74人。首次参赛的有比利时、波希米、海地、西班牙、意大利、加拿大、古巴、荷兰、挪威和印度。印度选手是一名就读于英国，名叫诺.普理查德的学行，他随同英国代表团来到巴黎参加了这次盛会，并在田径赛中获得两枚银牌。他是亚洲第一个参加奥运会和获取奖牌的运动员。国际奥委会的正式材料中，有沙皇俄国派了3名运动员参加马术和射击赛的记载，但苏联否认这个材料的真实性。苏联的依据是，从沙俄留下的文件看，俄国没有派队出席。本届比赛项目有很大变化，取消了上届的举重和摔跤，新增加了射箭、马术、水球、赛艇、帆船、足球、橄榄球、高尔夫球等。因第二届奥运会没有留下正式的部结，有的项目如板球、棒球、马球、甚至上面提到的射箭，究竟是正式比赛项目还是表演项目，迄今仍有争议，莫衷一是。
集体项目被列入本届比赛，这是一个重大的可喜的突破，古奥运会进行的只是个人之间比赛。第一届奥运会时，尽管一些集体项目已在欧美等国广为流行，但为了遵循古奥运会的传统仍未能列入比赛。足球就是这样。1863年英国成立了足球联合会，1873年英格兰和苏格兰还举行了第一场正式比赛。参加本届奥运会足球赛的虽然只有英、法、比三个国家，但它是第一次世界性的比赛，对后来国际足球联合会的成立和世界足球运动的发展，都起了一定的推动作用。巴黎奥运会比赛场地不仅分散，而且设施很差。田径赛场就是一鲜明的例证。这项比赛被安排在巴黎市区一个林场进行。那里原是法国赛马俱乐部的跑马场。虽然环境优美，空气清新，但不适举行田径赛。它场地狭小，林木横生，土质松软，跑道不平，场内设施几乎一无所有。跳跃比赛，需选手自己动手挖掘沙坑；跨栏比赛的个别栏架临时用树枝支搭起来凑合；参加投掷比赛的选手更是苦不堪言，器械经常碰撞树木的树杈，有时掷出的链球缠绕其上，还得从树上取下后再进行比赛。
不过，这次田径比赛条件虽差，仍取得了良好成绩，创造了14项奥运会纪录，其中有6项高于当时的世界最高水平，有的纪录还保持了多年，如美国弗.贾维斯在100米预赛中所创的10秒8奥运会纪录，直到1924年奥运会再次在巴黎举行时，才被英国哈.亚伯拉罕突破。本同田径项目由上届的12项增至24项。首次列入了障碍赛、立定跳、团体跑，以及拔河赛等。但这次新拉设的项目，绝大部分后来都逐渐被取消了。田径比赛在日程安排上曾引起一些争执。7月14日是法国国庆节，巴黎将有盛大庆祝活动，因此东道主想把这天的比赛后移一天，但遭到英、美等国反对。因为7月15日正好是星期天，选手中的教徒要做礼拜无法参赛。虽然法国人后来让步了，但这两天仍都安排了比赛。美国田径队选手来自不同的大学和体育团体，无统一指挥系统，各自为政。有的单位对星期日参赛问题，采取不闻不问随选手自定的态度；有的则管得很严，不准出赛。因此，在美国田径队内部出现了纠纷。如跳远比赛，当时主要竟争者是美国的两位选手，阿.克伦茨莱因和迈.普林期顿。他们俩来自不同的大学。比赛中，普林斯跳出了7.175米成绩，领先其他选手。但是第二天，普林斯顿所属大学规定不得出赛，而克伦茨莱所属大学则是悉听尊便。结果克伦茨莱因以7.185米获得了这项目的冠军。普林斯顿不服，提出在决一雌雄。克伦茨莱因拒绝这一挑战。
上届奥运会田径成绩领先的美国队，这次又获得了24项中的17项冠军，树立了田径强国的形象。佼佼者中首推阿.克伦茨莱因，他除获跳远冠军外，还夺得60米跑、110米栏和200米栏3项第一名，成为第一个在一届奥运会个人赛中四夺金牌的选手，也是本届获得金牌最多的运动员。当时还不到24岁的克伦茨莱因，是攻读医科的大学生，本想毕业后当个牙科医生，由于在体育成就而放弃了所学专业。在结束运动员生涯后，担任了教练工作。1928年，这位曾经名噪巴黎的运动员在刚刚50多岁的时候就去世了，在这届奥运会上，还有一位运动员虽然所得金牌比克伦茨莱因少，但后来名气要大得多，他就是在美国有橡皮人之称的雷.尤里。尤里能成为世界优秀运动员是颇出人意外的，他幼时身体很弱，得小儿麻痹症后，在轮椅上度日，后来他遵照医生的意见，从不体育锻炼，以顽强的意志在锻炼中恢复了健康，并成为赛场上的出类者，巴黎奥运会时他已经27岁。在7月16日天中，他一举夺得立定跳高、立定跳远和立定三级跳远3项冠军。四年后，他在圣路易奥运会上重复了这一成就。1906和1908年，他又在雅典和伦敦奥运会上两次获得立定跳高和立定跳远金牌。从1900－1908年，他四次参加奥运会比赛，共获得10枚金牌，是迄今获奥运会金牌最多的选手。
