Judo sai alkunsa Japanissa 1880-luvulla, kun kasvatustieteilijä ja ju-jutsu -mestari Jigoro Kano muokkasi vanhoista taistelutaidoista uuden kamppailulajin ja liikuntamuodon. 

Hän kehitti ju-jutsun tekniikoita niin, että kamppailutilannetta voitiin harjoitella täydellä suoritusteholla ilman merkittävää loukkaantumisriskiä. Realistisen ottelemisen lisäksi kasvatustieteilijä Kano korosti judossa harjoittelijoiden henkistä kasvua ja kehittymistä ihmisinä.  Kano nimesi lajinsa Kodokan-judoksi.

Judon voittokulku kamppailulajien joukossa alkoi vuonna 1886, kun Japanissa haettiin poliisille ju-jutsu -koulua. Vuonna 1880-luvulla Tokion poliisi kiinnostui aseettomista itsepuo­lustuslajeista, ja vuonna 1886 järjestettiin Yoshin-ryu Ju-jutsukoulun ja Kodokan-judon välillä kilpailu, jonka tarkoituksena oli selvittää, kumpi laji sopisi paremmin poliisien käyttöön. 

Kumpikin koulu lähetti 15 parasta oppilastaan kilpai­luun, joka päättyi Judon eduksi selkein luvuin. Kodokan-Judo saavutti 12 voittoa kahden ottelun päättyessä tappioon ja yhden tasapeliin. Kilpailumenestys kasvatti judon suosiota merkittävästi: poliisit alkoivat harjoi­tella judoa, ja ennen pitkää se levisi kouluihin ja armeijaankin.

Kano pyrki alusta asti levittämään judoa myös Japanin ulkopuolelle. Laji sai mainetta ja harrastajia, kun vuosisadan alun judokat kiersivät maailmaa ja haastoivat eri lajien kamppailijoita voitokkaasti. Kano vaikutti myös kansainvälisessä Olympiakomiteassa ja judo valittiin Olympialajiksi Tokion kisoihin vuonna 1964.

Suomeen judon toi Japanin lähetystösihteeri Shigemi Tagami 1950-luvulla. Suomen Judoliitto perustettiin 1958. Nykyisin judoa harrastetaan joka puolella Suomea noin 120 seurassa.

Kansainvälisesti judo on maailman levinnein ja harrastajamääriltään suurin kamppailulaji. Olympialajien joukossa se on viidenneksi suurin laji kansainvälisen liiton jäsenmaiden lukumäärällä mitattuna.