Ingen vet säkert när ju-jutsun uppstod, men man vet att det på 500-talet kom vissa tekniker från Indien till Kina, där de utvecklades och sedan spreds vidare till Japan. På 1600-talet utvecklades ju-jutsun bland samurajerna i deras träning, då de behövde metoder för att träna och strida utan svärd. Ett antal olika skolor eller stilar bildades tidigt och deras teknikträning sammanflätades med zenbuddhistiska läror om mental fokus och perfektion. Ett starkt traditionstänkande gjorde att teknikerna gick i arv genom generationerna.
1904 blev det krig mellan Ryssland och det lilla landet Japan. Japan gick segrande ur kriget och i Sverige – som såg en stor fiende i Ryssland – blev intresset för Japan och japansk kultur stort. I Sverige fanns då en man som hette Viking Cronholm. Han hade lärt sig ju-jutsu av en engelsk officer i Sydafrika.

Cronholm kan sägas vara den som förde in ju-jutsu (som han kallade jiu-jitsu) i Sverige. Han höll i den första offentliga uppvisningen och självförsvarskursen redan 1908, men utbildade främst poliser, väktare och militärer. Han var också något av en föregångsman i ju-jutsun i det att han gärna lärde kvinnor konsten att försvara sig. Cronholm hade inte som idag ett system eller en stor idrottsrörelse bakom sig, men i många av hans tekniker finns det likheter med dagens ju-jutsustil.
På slutet av 1960-talet fick ju-jutsun en egen sektion under Svenska Judoförbundet. Till ordförande utsågs Kurt Durewall. Durewall lade, tillsammans med Stig Bergman och Jan Beime grunderna för ett nytt ju-jutsusystem. När Durewall 1970 lämnade sektionen tog Stig Bergman över ordförandeskapet och tillsammans med sektionenssekreteraren Hans Greger bytte man först namn från jiu-jitsu till det mer språkligt korrekta ju-jutsu. Man tog även fram en ny profil som var förenlig med svensk lag, men man behöll vissa avancerade tekniker för konstartens skull. Hans Greger fick till uppgift att fortsätta uppbyggnaden av ett nytt ju-jutsusystem

1971 publicerades det första kompendiet med tekniker för gult bälte. 1973 blev Greger ordförande och riksinstruktör. Han blev sedermera även stilchef för svensk ju-jutsu. 1976 kom första boken med tekniker från gult till brunt bälte. I början av 1980-talet reviderades systemet av Greger tillsammans med Ingemar Sköld och Björn Hornvall. 1985 kom en ny bok med systemets alla tekniker upp till och med svart. 1987 kom även en bok om systemets fyra kata och en om mon-systemet, det vill säga ett ju-jutsu-system för barn mellan 9 och 14 år. Skillnaden mellan barnsystemet och vuxensystemet är att barn får inte lära sig att sparka och slå, inte heller får de lära sig några tekniker som kan vara skadliga för barnkroppen. 1992 började en ny revidering med mindre omfattande förändringar.  Även mon-systemet revideras till att kunna användas från 7 år.
2005 kom så senaste revisionen av vuxensystemet inom Svenska Ju-jutsu Kai. Det nya barnsystemet kom ut 2006.
Historiken ovan är fritt författad, men baseras på text ur Svenska Budoförbundets “Instruktionsbok i Ju-jutsu”. Den vetgirige kan med fördel besöka Svenska Ju-jutsuförbundets hemsida: www.ju-jutsu.se för mer information om ju-jutsuns historia