Le marathon a été créé à l’occasion des Jeux olympiques d'Athènes de 1896, sur une idée du linguiste français Michel Bréal, pour commémorer la légende du messager grec Philippidès, qui aurait parcouru la distance de Marathon à Athènes pour annoncer la victoire contre les Perses en 490 av. J.-C. L’épreuve se courait jusqu’en 1921 sur une distance non fixée d’environ 40 km avant que l’Association internationale des fédérations d'athlétisme n’en fixe la distance
La distance du marathon moderne est donc à peu près celle qui sépare Marathon d'Athènes. Elle est parcourue pour les premiers Jeux Olympiques modernes en 1896.
Ce premier marathon olympique moderne est gagné par un berger grec, Spyrídon Loúis, en 2 h 58 min 50 s.
La distance du marathon faisait environ 40 km aux premiers Jeux olympiques modernes. Il faut attendre les Jeux de Londres en 1908 pour que la distance soit fixée à 26 miles terrestres. La fantaisie va faire valoir ses droits : la course doit partir de la pelouse du château de Windsor pour faire plaisir aux enfants de la famille royale, qui veulent assister au départ des concurrents (une douzaine). Mais on décide au dernier moment que l'arrivée doit se faire au White City Stadium, devant la loge royale où Édouard VII est présent. De ce fait, la distance ne tombe plus juste. Elle sera alors fixée à 26 miles et 385 verges, soit 42,195 km.
En 1960, Abebe Bikila courut la distance sans chaussures et gagna, ainsi qu'en 1964 (avec chaussures), où il battit le record en 2 h 12 min 11 s.
Le premier marathon olympique féminin fut celui de Los Angeles, en 1984.