小葉黃楊不屬於草本植物,它是屬於一種常綠的灌木樹種。它的樹高通常可以長到2米左右,並且莖幹十分的光滑、密集,並且每個小枝上面還長了很多的節間。而且小葉黃楊的葉片呈對狀生長,並且為革質狀,顏色為深綠色。另外,它還會在春季4月份到5月份之間開出花來,花朵簇生於枝幹頂部,十分美麗。