Předchůdcem Karlova mostu byl zhruba na témž místě románský most Juditin. Byl tak nazván podle manželky krále Vladislava I., který jej tu dal stavět po roce 1158 na místě starého brodu a mostu dřevěného. Když byl Juditin most stržen povodní, psali o něm kronikáři takto: "...jako by padla koruna království".
Nový gotický tzv. Karlův most založil Karle IV. Spolu s jeho Staroměstskou mosteckou věží a branou 9. července 1357. Směr nového mostu byl oproti starému poněkud napřímen ke Staroměstskému náměstí. Tímto napřímením dosáhl Karlův most přesnější orientace – zaměření k východu.
Karlův most má 16 oblouků a nestálo na něm původně nic kromě kříže, který označoval největší hloubku, a pilíře božích muk. Mostu se původně říkalo Pražský most nebo Kamenný most a Karlův most byl nazván až v roce 1870 (jiný zdroj uvádí, že Karlův most byl zván Karlův již od roku 1380). Bylo to výsadní místo míru podle práva Starého města, které most spravovalo a mělo privilegium vybírat clo.
Roku 1579 se píše v právech městských království Českého, jež platila ještě kolem roku 1800, že zraní-li jeden druhého na Pražském mostě, na rynku, nebo dal-li by jeden druhému políček v kostele, takové přestupky budou trestány vyšší pokutou, než kdyby se staly na jiném místě.
