W swojej ojczyźnie szydlica japońska to drzewo wysokości do 50 m, o prostym, gładkim i wysokim pniu. Korona gęsta, stożkowata, o gałęziach odstających od pnia lub wzniesionych. Korowina na starych pniach brązowo-czerwona, łuszcząca się włóknistymi pasmami. Pączki drobne, nie pokryte łuskami. Igły nie opadają na zimę, szydlaste i sierpowato wygięte, u nasady rozszerzone i zbiegające po pędzie, nieco spłaszczone, długości 8-15 mm, ustawione wokół pędu spiralnie w pięciu prostnicach, na zimę często brązowieją. Roślina jednopienna - kwiaty męskie zebrane w drobne kotki, wyrastające z kątów igieł na wierzchołkach gałęzi, kwiaty żeńskie kuliste, osadzone na końcach krótkich pędów bocznych. Szyszki kuliste, średnicy 1-3 cm, dojrzewają w roku kwitnienia, a po wysypaniu się nasion długo pozostają na gałązkach. Bardzo atrakcyjne drzewo do prowadzenia w formie bonsai.