
In 1938 ging hij naar Japan om piloot te worden,in het leger (wat helaas niet lukte). In Japan ging hij verder met judo en boksen en kwam terecht bij de dojo van Gichin Funakoshi, waar hij het Okinawa karate oppakte.
Op 17 jarige leeftijd behaalde hij zijn 2e dan en op 24 jarige leeftijd had Mas Oyama hier de 4e dan in bereikt. Tijdens deze periode ging hij in het 'Japanese Imperial Army' en trainde daar judo om allerlei 'grappling' technieken onder de knie te krijgen. Na 4 jaar judo had hij ook hier de 4e dan in bereikt. Na de oorlog in 1947 won hij de Japanse Karate kampioenschappen. Hij verdiepte zich in het Goju ryu karate onder leiding van de Koreaanse meester So Nei Chu.

Hij onderwierp zichzelf aan de discipline van krijgskunst en trainde dag en nacht, tevens mediteerde hij volgens de regels van Zen. Gedurende deze periode vocht hij met wilde beesten, verbrijzelde hij rotsen en bomen met blote handen en mediteerde hij onder ijskoude watervallen, etc. in een bijzonder harde cursus van ijzeren discipline.

In 1953 opende Mas Oyama zijn eerste dojo op een perceel gras in Tokio. Zijn eerste echte dojo opende hij echter in juni 1956 in een voormalige ballet studio achter de "Rikkyo University", 500 meter van het huidige Honbu.
In 1957 had de dojo al 700 leden, desondanks het hoge stop/opgeef-percentage door de enorm zware trainingen. Van alle stijlen nam hij – volgens hem – de beste technieken en combineerde deze tot de fundamenten van de uiteindelijke Kyokushin karatestijl.

De opvolger is Kancho Shokei Matsui (8e dan), die persoonlijk benoemd is door Oyama.